JP2011154713A - 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム - Google Patents

画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Download PDF

Info

Publication number
JP2011154713A
JP2011154713A JP2011084424A JP2011084424A JP2011154713A JP 2011154713 A JP2011154713 A JP 2011154713A JP 2011084424 A JP2011084424 A JP 2011084424A JP 2011084424 A JP2011084424 A JP 2011084424A JP 2011154713 A JP2011154713 A JP 2011154713A
Authority
JP
Japan
Prior art keywords
additional
processing
postscript
information
extraction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011084424A
Other languages
English (en)
Other versions
JP5035443B2 (ja
Inventor
Hideaki Ashikaga
英昭 足利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2011084424A priority Critical patent/JP5035443B2/ja
Publication of JP2011154713A publication Critical patent/JP2011154713A/ja
Application granted granted Critical
Publication of JP5035443B2 publication Critical patent/JP5035443B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Character Input (AREA)

Abstract

【課題】欠損部を有するデータについての欠損部解消修復処理を正確に実行する装置、および方法を提供する。
【解決手段】例えば原本ドキュメントと、追記データの付加された追記ドキュメントの差分データのように欠損部を有する追記情報の線幅を検出し、線幅が細い場合と太い場合とで、それぞれの線幅に適合した処理シーケンスに従った欠損部修復処理を実行する。太線である場合は膨張処理、細線である場合は、細線化処理、端点抽出処理、端点接続処理による修復処理を実行する。本構成によって、線幅に応じた最適な欠損部修復が可能となり、より精度の高い追記情報の復元が可能となる。
【選択図】図4

Description

本発明は、画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。さらに詳細には、例えば追記情報の解析処理などにおいて行なわれる原本ドキュメントと追記ドキュメントとの差分データに含まれる欠損部の修復処理など、様々なデータ抽出処理によって得られた欠損部を含む線画データの修復を効率的に実行する画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。
画像処理の分野において、例えばプリンタやFAXなどから出力したドキュメントに、ユーザがペンや鉛筆、スタンプなどで追記した部分を抽出したり、セキュリティ文書が改竄されていないかどうかを検証する処理について、様々な研究、開発が行なわれている。一般的に、このような追記、改竄検証処理には、オリジナルのドキュメントデータと、追記等の可能性がある出力ドキュメントとの比較を行う処理が行なわれる。
すなわち、追記の検出を行なおうとする文書をスキャナなどの画像読取装置でスキャンして得たスキャン画像データと、PCやプリンタなどに蓄積されている原本画像データとの差分を取り、追記画像データを得るというものである。
ところが、この方法では、紙文書に元からあった文字や図形などと追記した部分に重なりがある場合、原本との差分を取って追記情報を得ようとした場合、取得された追記情報に、原本との重なり部分が含まれず、追記された文字や、図形などが途切れたデータとなってしまうという問題があった。
このような問題点を解決することを目的とした従来技術として、例えば特許文献1がある。特許文献1は、スキャン画像から原本画像を差し引いた追記画像の途切れ修復に関する構成を開示しており、原本画像の黒画素を順次走査し、着目黒画素の8近傍に追記画像の黒画素があるとき、着目画素に相当する追記画像の画素を黒にするといった処理によって途切れを修復する構成を開示している。
さらに、特許文献2は、スキャン画像から原本画像を差し引く差分処理により生成した追記画像から、途切れた追記の輪郭を作成し、輪郭画像から原稿画像を更に差し引くことで接続すべき端点の座標と接続方向を検出し、さらに、その端点位置と接続方向の情報から端点同士を接続し閉曲線を構成しその内部を着色することにより、途切れの発生してしまった検出追記情報を接続して、途切れを修復した追記情報を取得する構成を開示している。
しかし、追記情報を検出しようとする文書のスキャン画像には画質の劣化、すなわち、かすれ具合や色合いに変化が発生している可能性が高く、場合によっては、プリントおよび追記の後、何回かコピーされているかも知れない。特に追記部分はかすれなど画質劣化が激しいため、追記情報を検出しようとする文書のスキャン画像から抽出した追記部分の輪郭は、直線ではなくジグザグになる場合が多い。このため、端点および補間方向の特定が困難となり、上記の特許文献の手法を適用しても、完全な形の修復した追記情報を取得することが困難となるという問題がある。
また、途切れを修復して追記情報を取得する構成において、ペンや鉛筆などによって追記された文字などの細線からなる追記情報の修復は、比較的、正確に行なうことが可能であるが、例えば、原本の文字上をラインマーカで印をつけた処理などを実行した場合、あるいはマーカやマジックなどで追記された文字など、比較的太い追記情報に対する修復は、正確に行なうことが難しいという問題がある。
特開平08−063546号公報 特開2004−213230号公報
本発明は、上述の問題点に鑑みてなされたものであり、例えばドキュメントからの追記情報抽出処理において、追記情報抽出対象文書と原本との差分に基づいて抽出される差分データなどに含まれる欠損部を、効率的に正確に修復することを可能とするものであり、特に太い線分を持つ追記情報について、その欠損部を正確に修復して、追記情報を正確に取得可能とした画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明の第1の側面は、
欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行する画像処理装置であり、
原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出手段と、
前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報の線幅を検出する追記線幅検出手段と、
前記追記線幅検出手段の検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理切り替え手段と、
前記追記情報抽出手段の生成した追記抽出画像を入力し、前記処理切り替え手段によって処理対象として決定された太線追記情報に対して太線用の追記欠損部修復処理を実行する太線追記欠損部修復手段と、
前記追記情報抽出手段の生成した追記抽出画像を入力し、前記処理切り替え手段によって処理対象として決定された細線追記情報に対して細線用の追記欠損部修復処理を実行する細線追記欠損部修復手段と、
を有することを特徴とする画像処理装置にある。
さらに、本発明の画像処理装置の一実施態様において、前記太線追記欠損部修復手段は、膨張処理手段を有し、前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報の膨張処理による欠損部修復処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記細線追記欠損部修復手段は、細線化手段と、端点抽出手段と、端点接続手段を有し、前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報を前記細線化手段において細線化処理を実行し、前記端点抽出手段において、細線化処理結果に基づく端点抽出処理を実行し、前記端点接続手段において、抽出端点の接続処理を実行して欠損部修復処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記細線追記欠損部修復手段は、さらに、膨張処理手段を有し、前記端点接続手段において抽出端点の接続処理によって生成された端点接続データの膨張処理による欠損部修復処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記線幅検出手段は、前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報を構成する画素に相当する有効画素数(N1)と、該追記情報の細線化データの構成画素数(N2)に基づいて、追記情報の線幅を、下式、
線幅=N1/N2
に従って算出する処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記処理切り替え手段は、前記追記線幅検出手段の検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理において、予め固定した閾値を適用した判定処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記処理切り替え手段は、前記追記線幅検出手段の検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理において、追記の実行されたドキュメントの文字サイズ、または行間隔に応じて決定する閾値を適用した判定処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記情報抽出手段は、原本ドキュメント画像データと、前記追記ドキュメント画像データを入力し、2つの入力画像データの差分を抽出する差分抽出手段によって構成されることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記情報抽出手段は、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから特定の色の記録情報を追記情報として抽出する色抽出手段によって構成されることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記情報抽出手段は、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから罫線情報を削除し、罫線情報以外の情報を追記情報として抽出する罫線分離手段によって構成されることを特徴とする。
さらに、本発明の第2の側面は、
欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行する画像処理装置であり、
原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出手段と、
前記追記情報抽出手段の生成した追記抽出画像を入力し、予め定められた第1の処理シーケンスに従って、追記欠損部修復処理を実行する第1追記欠損部修復手段と、
前記追記情報抽出手段の生成した追記抽出画像を入力し、前記第1の処理シーケンスとは異なる予め定められた第2の処理シーケンスに従って、追記欠損部修復処理を実行する第2追記欠損部修復手段と、
前記第1追記欠損部修復手段の処理結果と、前記第2追記欠損部修復手段の処理結果とのOR処理を実行して、最終的な追記欠損部修復処理結果データを生成するOR処理手段と、
を有することを特徴とする画像処理装置にある。
さらに、本発明の画像処理装置の一実施態様において、前記第1追記欠損部修復手段は、膨張処理手段を有し、前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報の膨張処理による欠損部修復処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記第2追記欠損部修復手段は、細線化手段と、端点抽出手段と、端点接続手段と膨張処理手段を有し、前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報を前記細線化手段において細線化処理を実行し、前記端点抽出手段において、細線化処理結果に基づく端点抽出処理を実行し、前記端点接続手段において、抽出端点の接続処理を実行し、前記膨張処理手段において、前記端点接続手段における抽出端点の接続処理によって生成された端点接続データの膨張処理を実行して、欠損部修復処理を実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記情報抽出手段は、原本ドキュメント画像データと、前記追記ドキュメント画像データを入力し、2つの入力画像データの差分を抽出する差分抽出手段によって構成されることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記情報抽出手段は、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから特定の色の記録情報を追記情報として抽出する色抽出手段によって構成されることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記追記情報抽出手段は、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから罫線情報を削除し、罫線情報以外の情報を追記情報として抽出する罫線分離手段によって構成されることを特徴とする。
さらに、本発明の第3の側面は、
欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行する画像処理方法であり、
原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像に含まれる追記情報の線幅を検出する追記線幅検出ステップと、
前記追記線幅検出ステップにおいて検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理切り替えステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記処理切り替えステップにおいて処理対象として決定された太線追記情報に対して太線用の追記欠損部修復処理を実行する太線追記欠損部修復ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記処理切り替えステップにおいて処理対象として決定された細線追記情報に対して細線用の追記欠損部修復処理を実行する細線追記欠損部修復ステップと、
を有することを特徴とする画像処理方法にある。
さらに、本発明の画像処理方法の一実施態様において、前記太線追記欠損部修復ステップは、前記追記情報抽出ステップにおいて生成した追記抽出画像に含まれる追記情報の膨張処理による欠損部修復処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記細線追記欠損部修復ステップは、前記追記情報抽出ステップにおいて生成した追記抽出画像に含まれる追記情報の細線化処理を実行し、細線化処理結果に基づく端点抽出処理を実行し、さらに、抽出端点の接続処理を実行して欠損部修復処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記細線追記欠損部修復ステップは、さらに、前記端点の接続処理によって生成された端点接続データの膨張処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記線幅検出ステップは、前記追記情報抽出ステップの生成した追記抽出画像に含まれる追記情報を構成する画素に相当する有効画素数(N1)と、該追記情報の細線化データの構成画素数(N2)に基づいて、追記情報の線幅を、下式、
線幅=N1/N2
に従って算出する処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記処理切り替えステップは、前記追記線幅検出ステップにおいて検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理において、予め固定した閾値を適用した判定処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記処理切り替えステップは、前記追記線幅検出ステップにおいて検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理において、追記の実行されたドキュメントの文字サイズ、または行間隔に応じて決定する閾値を適用した判定処理を実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記情報抽出ステップは、原本ドキュメント画像データと、前記追記ドキュメント画像データを入力し、2つの入力画像データの差分を抽出する差分抽出処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記情報抽出ステップは、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから特定の色の記録情報を追記情報として抽出する色抽出処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記情報抽出ステップは、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから罫線情報を削除し、罫線情報以外の情報を追記情報として抽出する罫線分離処理を実行するステップであることを特徴とする。
さらに、本発明の第4の側面は、
欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行する画像処理方法であり、
原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、予め定められた第1の処理シーケンスに従って、追記欠損部修復処理を実行する第1追記欠損部修復ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記第1の処理シーケンスとは異なる予め定められた第2の処理シーケンスに従って、追記欠損部修復処理を実行する第2追記欠損部修復ステップと、
前記第1追記欠損部修復ステップにおける処理結果と、前記第2追記欠損部修復ステップにおける処理結果とのOR処理を実行して、最終的な追記欠損部修復処理結果データを生成するOR処理ステップと、
を有することを特徴とする画像処理方法にある。
さらに、本発明の画像処理方法の一実施態様において、前記第1追記欠損部修復ステップは、前記追記情報抽出ステップにおいて生成した追記抽出画像に含まれる追記情報の膨張処理による欠損部修復処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記第2追記欠損部修復ステップは、前記追記情報抽出ステップにおいて生成した追記抽出画像に含まれる追記情報の細線化処理を実行し、細線化処理結果に基づく端点抽出処理を実行し、抽出端点の接続処理を実行し、抽出端点の接続処理によって生成された端点接続データの膨張処理を実行して、欠損部修復処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記情報抽出ステップは、原本ドキュメント画像データと、前記追記ドキュメント画像データを入力し、2つの入力画像データの差分を抽出する差分抽出処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記情報抽出ステップは、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから特定の色の記録情報を追記情報として抽出する色抽出処理を実行するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記追記情報抽出ステップは、追記ドキュメント画像データを入力し、該追記ドキュメント画像データから罫線情報を削除し、罫線情報以外の情報を追記情報として抽出する罫線分離処理を実行するステップであることを特徴とする。
さらに、本発明の第5の側面は、
画像処理装置において、欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行させるコンピュータ・プログラムであり、
原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像に含まれる追記情報の線幅を検出する追記線幅検出ステップと、
前記追記線幅検出ステップにおいて検出した追記情報の線幅に応じて細線用の追記欠損部修復処理、または太線用の追記欠損部修復処理のいずれを実行するかを判定する処理切り替えステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記処理切り替えステップにおいて処理対象として決定された太線追記情報に対して太線用の追記欠損部修復処理を実行する太線追記欠損部修復ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記処理切り替えステップにおいて処理対象として決定された細線追記情報に対して細線用の追記欠損部修復処理を実行する細線追記欠損部修復ステップと、
を実行させることを特徴とするコンピュータ・プログラムにある。
さらに、本発明の第6の側面は、
画像処理装置において、欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行させるコンピュータ・プログラムであり、
原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、予め定められた第1の処理シーケンスに従って、追記欠損部修復処理を実行する第1追記欠損部修復ステップと、
前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記第1の処理シーケンスとは異なる予め定められた第2の処理シーケンスに従って、追記欠損部修復処理を実行する第2追記欠損部修復ステップと、
前記第1追記欠損部修復ステップにおける処理結果と、前記第2追記欠損部修復ステップにおける処理結果とのOR処理を実行して、最終的な追記欠損部修復処理結果データを生成するOR処理ステップと、
を実行させることを特徴とするコンピュータ・プログラムにある。
なお、本発明のコンピュータ・プログラムは、例えば、様々なプログラム・コードを実行可能なコンピュータシステムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、CDやFD、MOなどの記録媒体、あるいは、ネットワークなどの通信媒体によって提供可能なコンピュータ・プログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータシステム上でプログラムに応じた処理が実現される。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本発明の構成によれば、例えば原本ドキュメントと、追記データの付加された追記ドキュメントの差分データのように欠損部を有するデータについての欠損部を解消する修復処理を効率的にかつ正確に実行することができる。具体的には、本発明の画像処理装置の一実施例構成では、追記抽出画像に含まれる欠損部を有する追記情報の線幅を検出し、線幅が細い場合と太い場合とで、それぞれの線幅に適合した処理シーケンスに従った欠損部修復処理を実行する。具体的には、追記情報が太線である場合は膨張処理による修復を実行し、細線である場合は、細線化処理、端点抽出処理、端点接続処理による修復処理を実行する。本構成によって、線幅に応じた最適な欠損部修復が可能となり、より精度の高い追記情報を生成することが可能となる。
また、本発明の一実施例構成によれば、複数の異なる処理シーケンスによる追記情報の欠損部修復処理を並列に実行し、これらの複数の処理結果に基づくOR処理結果を生成して、このOR処理結果を最終的な欠損部修復結果とする。本構成によれば、一方の修復処理シーケンスにおいて修復できなかった欠損部を他方の修復処理シーケンスの結果に基づいて補うことが可能となり、結果としてより完全性の高い追記情報を生成することが可能となる。
本発明の画像処理装置を適用した処理の概要について説明する図である。 原本ドキュメントと、追記ドキュメントからの差分データの生成例について説明する図である。 本発明の画像処理装置による処理対象データ例について説明する図である。 本発明の画像処理装置一実施例構成を示すブロック図である。 本発明の画像処理装置において実行する差分抽出処理の具体的な処理例について説明する図である。 本発明の画像処理装置において実行する追記情報の線幅検出処理の具体的な処理例について説明する図である。 本発明の画像処理装置一実施例構成を示すブロック図である。 本発明の画像処理装置において実行する膨張処理の具体的な処理例について説明する図である。 本発明の画像処理装置において実行する細線化処理の具体的な処理例について説明する図である。 本発明の画像処理装置において実行する端点抽出処理の具体的な処理例について説明する図である。 本発明の画像処理装置において実行する接続端点ペア抽出処理の具体的な処理例について説明する図である。 本発明の画像処理装置において実行する端点接続処理の具体的な処理例について説明する図である。 本発明の画像処理装置における処理シーケンスを説明するフローチャートを示す図である。 本発明の画像処理装置の一実施例構成を示すブロック図である。 本発明の画像処理装置の一実施例構成を示すブロック図である。 本発明の画像処理装置の一実施例構成を示すブロック図である。 本発明の画像処理装置の一実施例構成を示すブロック図である。 本発明の画像処理装置において実行する具体的な処理例について説明する図である。 本発明の画像処理装置において実行する具体的な処理例について説明する図である。 本発明の画像処理装置において実行する具体的な処理例について説明する図である。 本発明の画像処理装置における処理シーケンスを説明するフローチャートを示す図である。 本発明の画像処理装置のハードウェア構成例について説明する図である。
以下、図面を参照しながら本発明の実施形態に係る画像処理装置、および画像処理方法、並びにコンピュータ・プログラムの詳細について説明する。
まず、図1以下を参照して、本発明の画像処理装置を適用した処理の概要について説明する。本発明の画像処理装置は、例えば図1に示す原本ドキュメント10、および、原本ドキュメント10に対してコメントやアンダーラインなどの様々なメモ書きを含む追記ドキュメント20とから、差分を抽出して追記されたデータを取得する処理において、差分データの欠損部を修復する処理を行なう。なお、本発明の画像処理装置は、差分データのみならず、その他、様々な処理によって得られた欠損部を有するデータにおける欠損部を解消する処理に適用可能である。
図1に示す例は、その1つの処理例であり、原本ドキュメント10と、追記ドキュメント20とをスキャナ30によって読み取り、原本ドキュメント画像データと、追記ドキュメント画像データを画像処理装置100に入力して、差分情報取得処理を行い、差分データに含まれる欠損部の修復を行なって追記情報を出力する処理である。
背景技術の欄において説明したように、従来の差分抽出では、原本と追記との重なり部分が途切れた情報が取得されるという問題がある。例えば図2に示すように、原本ドキュメント51と、追記ドキュメント52がある場合、本来追記情報は、線分データ53であるにもかかわらず、原本ドキュメント51と、追記ドキュメント52からの差分データを取得すると、追記抽出情報55に示すように、原本ドキュメント51と、追記ドキュメント52が途切れたデータとして検出され、正しい追記データの検出ができない。本発明では、これらの途切れを修復する処理を画像処理装置100において実行する。
なお、本発明における画像処理では、図2に示す差分データに基づいて検出された追記情報の修復処理のみではなく、その他の手法によって取得された様々な欠損部を含む途切れたデータの修復も実行することができる。例えば、図3(A)は、原本画像を適用することなく、追記ドキュメント61画像のみから追記抽出情報62を抽出した処理例を示している。
例えば、追記データが原本画像データに含まれる異なる色(例えば赤)で記録されている場合、この追記色データのみを追記ドキュメント61から抽出する処理によって、追記抽出情報62が取得される。しかしこの場合も、原本データとの重なり部分は、途切れた画像として追記情報が取得される。
また、図3(B)は、罫線付きドキュメント71から罫線を除去した罫線除去情報72を取得した処理構成を示している。このような処理を行った場合、罫線部としての直線を除去することで、罫線との重なり部が除去されたデータが出力され、本来のデータの一部が欠落してしまう。
本発明の画像処理装置100では、このような途切れ、欠落部を持つ画像データについて、欠損部を解消して、途切れのないデータを効率的にかつ正確に生成する処理を行なう。
本発明の画像処理装置の構成および処理の詳細について、図4以下を参照して説明する。本発明の画像処理装置では、欠損部の修復処理を、追記情報が細線である場合と、太線である場合とで切り替えて、異なる修復処理を実行する。すなわち、細線追記欠損部修復手段と、太線追記欠損部修復手段を設け、それぞれの修復手段において、細線の追記欠損部に適した修復処理、および太線の追記欠損部に適した修復処理を実行する。このように太い追記と細い追記に対して、それぞれ異なるシーケンスの欠損部修復処理を適用することで、より正確な欠損部修復が実現される。
本発明の画像処理装置では、追記情報の線幅(太さ)を検出し、その線幅に応じた最適な欠損部(途切れ)修復処理を行い、修復精度を向上させる。追記情報が太いか細いかの判断手法としては、様々な手法が適用可能である。
追記情報の線幅が太いか細いかの判定においては、固定的な数値を閾値として適用する処理としてもよいが、固定的な数値を閾値として適用する処理ではなく、処理対象のドキュメントに応じた判定処理を行なう構成としてもよい。例えば、追記が重なっている文字に対して大きいか、小さいかによって判定する構成とする。すなわち、幅1mmのサインペンで書かれた追記でも、8ポイントなどの小さな文字とした場合は、太い追記として処理したほうが良い結果が得られるし、幅4mmのラインマーカで書かれた追記でも、36ポイントなどの大きな文字に重なったところでは、細い追記として処理する構成とするなどの処理である。
追記情報の線幅判定に際しては、ページ単位、行単位、文字単位など、様々な単位で、追記情報の線幅判定を行ない、判定結果に基づいて、細線追記欠損部修復手段、または太線追記欠損部修復手段のいずれかにおいて、欠損部修復処理を実行する。
図4を参照して、本発明の画像処理装置の一実施例について説明する。図4に示す画像処理装置は、原本ドキュメント画像データ151と追記ドキュメント画像データ152を入力して差分を検出し、検出した差分データに基づいて途切れの修復を行なう処理例である。図4に示す画像処理装置は、差分抽出手段201、処理切り替え手段202、追記線幅検出手段203、太線追記欠損部修復手段204、細線追記欠損部修復手段205を有する。以下、これらの各処理手段の実行する処理について説明する。
[差分抽出手段]
差分抽出手段201は、スキャナなどに読み取られた画像データとしての原本ドキュメント画像データ151と、原本に含まれない追記を含む追記ドキュメント画像データ152を入力して、これらのドキュメントから差分を抽出する。すなわち、追記された情報を2つのドキュメントの差分情報として読み取る。
差分抽出手段201は、位置合わせの行われた原本ドキュメント画像データ151と追記ドキュメント画像データ152との差分を抽出して、追記抽出画像データ153を出力する。この処理は、従来の処理と同様であり、特開2004−213230、特開2004−341914等に記載された処理と同様の処理として実行される。たとえば、原本ドキュメント画像データ151の座標位置(x,y)と、追記ドキュメント画像データ152の対応座標位置(x,y)の差分の有無を検出し、差分が存在する場合にのみデータを抽出する。
差分抽出処理例について図5を参照して説明する。図5に示す例は、先に説明した図2と同様、原本ドキュメント301と、追記ドキュメント302から差分抽出を行なっている。追記ドキュメント202には、元々の原本ドキュメント301には含まれない追記された追記情報303が含まれる。差分抽出手段201は、原本ドキュメント301と、追記ドキュメント302から差分抽出を行なって、追記抽出画像データ304を生成する。ただし、図から理解されるように、差分抽出によって得られる追記抽出画像データ304に含まれる抽出情報は、原本データとの重なり部(図に示す原本に元々記載のある文字[1,2,3]との重なり部)が途切れた不完全な追記データである。この追記抽出画像データが、図4に示す差分抽出手段201の出力する追記抽出画像データ153に相当する。
[処理切り替え手段、および追記線幅検出手段]
処理切り替え手段202、および追記線幅検出手段203の処理について説明する。追記線幅検出手段203は、図4に示す差分抽出手段201の出力する追記抽出画像データ153に含まれる追記情報の線幅を検出し、処理切り替え手段202は、追記線幅検出手段203の検出した追記情報の線幅に基づいて、追記情報に含まれる欠損部の修復処理を太線追記欠損部修復手段204、または細線追記欠損部修復手段205のいずれにおいて実行させるかを決定する。
追記線幅検出手段203における追記情報の線幅検出処理例について、図6を参照して説明する。追記情報の線幅検出処理の処理手法には、様々な手法が適用可能である。図6は、その一例を示している。図6に示す追記抽出画像データ304は、図4に示す差分抽出手段201の出力する追記抽出画像データ153に相当する。追記線幅検出手段203は、この追記抽出画像データ304の細線化処理を実行する。細線化処理は、追記抽出画像データ304に含まれる追記情報の線幅を1ドット(画素)幅に設定する処理として実行される。この細線化処理によって生成される画像を図6に示す細線化画像データ305とする。
追記線幅検出手段203は、追記抽出画像データ304に含まれる追記情報の総ドット数(N1)と、細線化画像データ305に含まれる細線化データの総ドット数(N2)をカウントし、追記抽出画像データ304に含まれる追記情報の線幅を下式に従って算出する。
追記情報線幅=N1/N2
処理切り替え手段202は、追記線幅検出手段203が算出した追記抽出画像データ304に含まれる追記情報の線幅(N1/N2)に基づいて、追記情報が太線であるか細線であるかを判定する。この判定は、例えば、処理切り替え手段202の保持する閾値(Th)に基づいて実行される。例えば、
追記情報線幅=N1/N2≧Th
であれば、追記情報は太線と判定し、
追記情報線幅=N1/N2<Th
であれば、追記情報は細線と判定する。
処理切り替え手段202において、追記情報が太線であると判定されると、図4に示す太線追記欠損部修復手段204に、修復処理対象データとしての追記抽出画像データ153が出力され、処理切り替え手段202において、追記情報が細線であると判定されると、図4に示す細線追記欠損部修復手段205に、修復処理対象データとしての追記抽出画像データ153が出力され、それぞれの修復手段において、異なる修復処理シーケンスに従って欠損部の修復処理が実行される。
なお、前述したように、処理切り替え手段202において実行する追記情報の線幅が太いか細いかの判定処理においては、上述したように固定的な数値を閾値として適用する処理としてもよいが、固定的な数値を閾値として適用する処理ではなく、処理対象のドキュメントに応じた判定処理を行なう構成としてもよい。すなわち、原本ドキュメント画像データ151を参照して、追記情報が重なっている文字に対して大きいか、小さいかによって判定する構成としてもよい。
例えば、幅1mmのサインペンで書かれた追記でも、8ポイントなどの小さな文字として原本ドキュメント画像データ151に記録されている場合は、太い追記情報であると判定し、幅4mmのラインマーカで書かれた追記でも、36ポイントなどの大きな文字に重なったところでは、細い追記として判定するなどの処理を実行して、判定結果に基づいて、図4に示す太線追記欠損部修復手段204、または細線追記欠損部修復手段205に修復処理対象データとしての追記抽出画像データ153を出力する。なお、追記情報の線幅判定処理、および修復手段の適用切り替え処理は、ページ単位、行単位、文字単位など、様々な単位で処理を行なうことが可能である。例えば、原本ドキュメント画像データ151を参照して、文字部の行間隔を検出して、各行幅に対応した細線と太線の境界値としての閾値を設定する構成としてもよい。
このように、文字の大きさや行間隔などを検出する場合は、図7に示すように、処理切り替え手段202は、原本ドキュメント画像データ151を入力する構成として、追記情報が重なっている文字に対して大きいか、小さいか、あるいは行間隔に応じて追記情報が細線であるか太線であるかを判定する。
文字の大きさに基づいて追記情報が細線であるか太線であるかを判定する構成とする場合は、処理切り替え手段202は、原本ドキュメント画像データ151に含まれる文字の大きさを検出する文字外形検出手段と、文字の大きさを基準に追記情報が太線追記であるか細線追記であるかを判別する閾値を決定する閾値決定手段とを有する構成とする。なお、文字の大きさの検出処理は、OCRなどで文字を認識する前処理として用いられるレイアウト解析技術を適用することができる。また、閾値決定手段は、文字外形検出手段が検出した文字の外形(特に高さ)を基準に、例えば文字の高さの1/2を閾値として設定して適用するなどの処理を行なう構成とする。
また、行間隔に基づいて追記情報が細線であるか太線であるかを判定する構成とする場合は、行間隔を検出する行間隔検出手段と、行間隔に応じて追記情報が太線追記であるか細線追記であるかを判別する閾値を決定する閾値決定手段を持つ構成とする。なお、行間隔の検出処理は、OCRなどで文字を認識する前処理として用いられるレイアウト解析技術を適用することができる。また、閾値決定手段は、行間隔検出手段が検出した行の間隔を基準に、例えば行間隔の1/2を閾値として設定して適用するなどの処理を行なう構成とする。
[太線追記欠損部修復手段204]
次に、太線追記欠損部修復手段204における処理について説明する。太線追記欠損部修復手段204では、追記情報が太線であると判定された場合に、追記に含まれる欠損部の修復処理を、太線に適した処理によって実行する。
太線追記欠損部修復手段204は、太い追記の途切れを修復するのに適した修復処理を行なう。太い追記の途切れを修復するのに適した修復処理には、様々な手法があるが、その1つの膨張処理を適用した修復処理について、図8を参照して説明する。
太線追記欠損部修復手段204は、追記抽出画像データ304を入力する。これは、図4に示す差分抽出手段201の生成した追記抽出画像データ153に相当する。太線追記欠損部修復手段204は、この追記抽出画像データ304に対して、膨張処理(太線化処理)を実行する。膨張処理(太線化処理)は、図8に示すように、修復処理対象の欠損部を有する追記情報311を上下左右にn画素膨らませる処理である。この膨張処理の結果、間隔の短い欠損部は、結合し、途切れが消滅する。この膨張処理によって、欠損部が解消した追記情報312を持つ膨張処理画像データ306が生成される。なお、膨張量nは、例えば3〜10画素など、処理対象画像に応じて決定する。この膨張処理画像データ306が図4に示す太線追記欠損部修復手段204の出力する修復追記抽出画像データ155に相当する。
なお、太線追記欠損部修復手段204の実行する欠損部修復処理は、上述の膨張処理のみならず、太い追記の途切れを修復するのに適した修復処理なら他の手法を適用してもよい。例えば膨張処理は、追記の太さと途切れ幅の比が概ね3対1以下の場合に有効であり(膨張で途切れが修復できた時点で、追記の太さ変化が気にならない範囲)、ラインマーカのように太い追記はこの条件を満たすため、太線追記欠損部修復手段204の実行する修復処理として好ましい処理である。
[細線追記欠損部修復手段205]
次に、細線追記欠損部修復手段205における処理について説明する。細線追記欠損部修復手段205では、追記情報が細線であると判定された場合に、追記に含まれる欠損部の修復処理を、細線に適した処理によって実行する。
細線追記欠損部修復手段205は、細い追記の途切れを修復するのに適した修復処理を行なう。細い追記の途切れを修復するのに適した修復処理には、様々な手法があるが、その1つの修復処理例として、細線化処理と、端点抽出処理と、端点接続処理を実行する修復処理例について、図9以下を参照して説明する。
細線追記欠損部修復手段205は、図9に示す追記抽出画像データ304を入力する。これは、図4に示す差分抽出手段201の生成した追記抽出画像データ153に相当する。細線追記欠損部修復手段205は、細線化手段を有し、細線化手段によって、この追記抽出画像データ304に含まれる欠損部を有する追記情報の細線化処理を実行して、細線化処理画像データ321を生成する。細線化処理画像データ321は、追記情報を例えば1画素の幅を持つ細線化したデータである。
細線追記欠損部修復手段205は、さらに、端点抽出手段と、端点接続手段を有し、細線化処理画像データ321に含まれる細線化された追記情報から端点を抽出し、抽出端点を接続する処理を実行する。この処理について、図10、図11、図12を参照して説明する。細線追記欠損部修復手段205の端点抽出手段は、図10に示すように、細線化処理画像データ321に含まれる細線化された追記情報から端点を抽出する。図に示す端点抽出データ322は、P1〜P6の6点の端点が抽出された例を示している。
さらに、細線追記欠損部修復手段205の端点接続手段は、図11に示すように、端点抽出データ322から端点の接続関係を判定し、接続端点ペア抽出データ323を生成する。接続端点ペアの抽出処理は、例えば、以下の3つの処理のいずれかを適用して実行する。
a:接続端点ペアの検索対象としての端点の最近接端点を探索し、予め定めた閾値距離以内の端点を接続端点とする。
b:接続端点ペアの検索対象としての端点に連結する線分を構成する数ドットからその線分の延長方向を算出し、その方向にある最近接端点を接続端点とする。
c:接続端点ペアの検索対象としての端点に連結する線分を構成する数十ドットからその線分のフィティング曲線を算出し、その曲線の延長上に位置する最近接端点を接続端点とする。
細線追記欠損部修復手段205の端点接続手段は、これらのa〜cのいずれかに対応する2つの端点が検出された場合、これらを接続端点ペアとして抽出し接続する処理を実行する。図11に示す接続端点ペア抽出データ323の例は、端点P2と端点P3、端点P4と端点P5が接続端点ペアとして抽出された例を示している。
細線追記欠損部修復手段205の端点接続手段は、図12に示すように、接続端点ペア抽出データ323の接続端点ペア間の接続処理を実行して、端点接続データ324を生成する。この処理の結果、図12に示す端点接続データ324が生成される。この端点接続データ324が、図4に示す細線追記欠損部修復手段205の出力する修復追記抽出画像データ155に相当する。
なお、細線追記欠損部修復手段205の生成する端点接続データ324は、図12に示すように、細線データのままであるので、このデータに対して膨張処理を施して、太線化して出力する構成としてもよい。膨張処理(太線化処理)は、線分等の有効画像領域を上下左右にn画素膨らませる処理である。この処理により、細線化データは膨張し太線に復元される。この膨張処理結果データを修復追記抽出画像データ155として出力する構成としてもよい。
以上、説明したように、本発明の画像処理装置では、欠損部を有する追記情報の線幅に応じて、太線追記欠損部修復手段204と、細線追記欠損部修復手段205によって、それぞれ太線および細線の欠損部修復に適応した処理を実行する構成としたので、各追記情報の線幅に適応した最適な修復によって、より精度の高い追記情報修復が実現される。
次に、図13に示すフローチャートを参照して、図4に示す画像処理装置において実行する処理シーケンスについて説明する。まず、ステップS101において、追記情報を含む追記ドキュメント画像データを取得する。これは、例えばスキャナなどによって読み取られた画像データである。さらに、ステップS102において、追記を含まない原本ドキュメント画像データを取得する。これも、例えばスキャナなどによって読み取られた画像データである。
ステップS103では、これらの2つの画像データに基づく差分抽出処理を実行する。図4に示す差分抽出手段201における処理であり、この結果として追記抽出画像データが生成される。ただし、この追記抽出画像データは、追記情報と、原本情報の重なり部が欠落した欠損部を含むデータとなる。
次のステップS104〜S107の処理は、図4に示す追記線幅検出手段203の処理である。追記線幅検出手段203は、先に図6を参照して説明したように、まず、ステップS104において、追記抽出画像データに含まれる追記情報(有効画素)の総ドット数(N1)を算出する。次にステップS105において、追記抽出画像データの細線化処理を実行し、ステップS106において、追記抽出画像データの細線化データ(有効画素)の総ドット数(N2)をカウントする。さらに、ステップS107において、追記抽出画像データに含まれる追記情報の線幅を下式に従って算出する。
追記情報線幅=N1/N2
次のステップS108の判定処理は、図4に示す処理切り替え手段202の処理であり、処理切り替え手段202の保持する閾値(Th)に基づいて実行される。例えば、
追記情報線幅=N1/N2≧Th
であれば、追記情報は太線と判定し、
追記情報線幅=N1/N2<Th
であれば、追記情報は細線と判定し、追記情報が太線であると判定されると、図4に示す太線追記欠損部修復手段204に、修復処理対象データとしての追記抽出画像データ153を出力し、細線であると判定されると、細線追記欠損部修復手段205に、修復処理対象データとしての追記抽出画像データ153を出力する。なお、この判定処理は、先に説明したように、文字の大きさや行間隔などを考慮した判定処理を行なう構成としてもよい。
ステップS109の処理は、追記情報が太線であると判定された場合、図4に示す太線追記欠損部修復手段204において実行される太線を対象とした欠損部修復処理である。この処理は、先に図8を参照して説明したように、例えば膨張処理として実行される。
ステップS110の処理は、追記情報が細線であると判定された場合、図4に示す細線追記欠損部修復手段205において実行される細線を対象とした欠損部修復処理である。この処理は、先に図9〜図12を参照して説明したように、細線化処理、端点抽出処理、端点接続処理を伴う処理として実行される。さらに、最終的に膨張処理を実行する構成としてもよい。
これらの処理によって、欠損部を有する追記情報の線幅に応じた欠損部が修復され、修復追記抽出画像データが生成される。本発明の画像処理では、図4に示す太線追記欠損部修復手段204と、細線追記欠損部修復手段205によって、それぞれ太線および細線の欠損部修復に適応した処理を実行する構成としたので、各追記情報の線幅に適応した最適な修復によって、より精度の高い追記情報修復が実現される。
なお、太線追記欠損部修復手段204と、細線追記欠損部修復手段205の処理、すなわち、図13に示す処理フローにおけるステップS109とS110の処理は、並列に実行することが可能であり、例えば処理対象ドキュメント内に含まれる細線追記情報と、太線追記情報を区分して、それぞれの修復手段において欠損部修復処理を並列に実行する構成としてもよい。
なお、図4に示す画像処理装置では、まず、原本ドキュメント画像データ151と、原本に含まれない追記を含む追記ドキュメント画像データ152を、差分抽出手段201に入力して差分抽出によって、追記情報を抽出する処理を行なう構成としていた。
差分抽出を実行する場合は、原本ドキュメントが必要となるが、追記ドキュメントのみを入力として、追記情報を抽出することが可能となる場合もある。例えば、原本の記録情報が全て黒で記録され、追記が全て赤で記録されている追記ドキュメントである場合は、追記ドキュメントから赤で記録された情報のみを抽出する色識別処理によって、追記情報の抽出が可能となる。
このような画像処理装置構成を図14に示す。図14に示す画像処理装置と、図4に示す画像処理装置との差異は、図4における差分抽出手段201を、図14では、色抽出手段401に変更し、入力情報を追記ドキュメント画像データ152のみとした点である。その他の構成および処理は、図4以下を参照して説明した処理、構成と同様である。
図14に示す画像処理装置は、原本ドキュメントに含まれる文字情報などの色と、追記された情報の色が異なる場合に適用可能である。例えば、原本がすべて黒の文字、線分によって記録され、追記が赤で行なわれた場合などである。色抽出手段401は、追記を含む追記ドキュメント画像データ152を入力し、追記ドキュメント画像データ152から、追記情報の対応する色(例えば赤)を持つ情報を追記情報として抽出する。なお、追記情報の色情報については、ユーザが入力するなどの処理を行なうことになる。
この色抽出手段401において抽出された追記情報は、先に図4を参照して説明した差分抽出手段201の生成する追記情報と同様、やはり、原本に含まれる情報との重なりに途切れが発生する場合がある。例えば原本に含まれる黒の文字上に記録された追記された赤色が正確に赤とは認識されず、黒と認識される場合があり、追記抽出手段301がこのような重なり部分を追記情報と識別しない場合があるからである。
このような途切れ部分は、先に図4以下を参照して説明した実施例と同様、追記情報の線幅に応じて、それぞれ太線追記欠損部修復手段204と、細線追記欠損部修復手段205において修復処理が実行され、最終的に正確な追記情報からなる修復追記抽出画像データ154が生成される。
さらに、図15を参照して、差分抽出手段の代わりに罫線分離手段402を利用した構成例について説明する。この図15に示す構成と図4に示す構成との差異は、図4に示す差分抽出手段201を罫線分離手段402に変更し、入力情報を追記ドキュメント画像データ152のみとした点である。その他の構成および処理は、図4以下を参照して説明した処理、構成と同様である。
図15に示す画像処理装置は、原本ドキュメントが、例えば表などの罫線情報によって構成され、その表に文字などを追記情報として記録した場合に、罫線を含まない追記情報としての文字情報などを抽出する場合に有効となる。罫線分離手段402は、追記を含む追記ドキュメント画像データ152を入力し、追記ドキュメント画像データ152から、罫線のみを削除した追記情報を抽出する。
この罫線分離手段402において抽出された追記情報は、先に図4を参照して説明した差分抽出手段201の生成する追記情報と同様、やはり、原本に含まれる情報との重なりに途切れが発生する場合がある。例えば原本に含まれる罫線上に記録された追記情報は、罫線情報として削除され、抽出される追記情報に含まれなくなるからである。
このような途切れ部分は、先に図4以下を参照して説明した実施例と同様、追記情報の線幅に応じて、それぞれ太線追記欠損部修復手段204と、細線追記欠損部修復手段205において修復処理が実行され、最終的に正確な追記情報からなる修復追記抽出画像データ154が生成される。
次に、図16を参照して、本発明の画像処理装置のさらなる実施例について説明する。図16に示す画像処理装置は、差分抽出手段201の生成する追記抽出画像データ153を、追記情報の線幅に関わらず、先に図4を参照して説明した太線追記欠損部修復手段204に相当する処理を実行する第1追記欠損部修復手段451と、細線追記欠損部修復手段205に相当する処理を実行する第2追記欠損部修復手段452との両手段で、並列に処理を実行し、さらにOR処理手段453において、第1追記欠損部修復手段451の出力と、第2追記欠損部修復手段452の出力のOR処理を実行し、この処理結果を修復追記抽出画像データ155として出力する構成としたものである。
図16に示す第1追記欠損部修復手段451と、第2追記欠損部修復手段452を具体的な処理手段として示した構成図を図17に示す。図16に示す第1追記欠損部修復手段451は、図17に示す膨張処理手段454に相当する。図16に示す第2追記欠損部修復手段452は、図17に示す細線化手段455、端点抽出手段456、端点接続手段457、膨張処理手段458に対応する。
図18を参照して、本実施例の画像処理装置の実行する具体的な処理例について説明する。図18に示す追記抽出画像データ461は、図17に示す差分抽出手段201の生成する追記抽出画像データ153に相当する。この追記抽出画像データは、図17に示す膨張処理手段454において、膨張処理が実行され、図18に示す膨張処理画像データ462が生成される。膨張処理によって、追記抽出画像データ461に含まれる微小な途切れは修復されるが、膨張処理画像データ462に示すように、大きな途切れは修復されず、残存したままである。
この膨張処理に並列して、追記抽出画像データ461は、図17に示す細線化手段455、端点抽出手段456、端点接続手段457、膨張処理手段458においても処理がなされる。細線化手段455、端点抽出手段456、端点接続手段457における処理は、先の実施例において、図9〜図12を参照して説明した処理であり、細線化処理の後、細線化データの端点を抽出し、端点ペアを検出して接続する処理である。この端点接続後のデータが、図18に示す端点接続細線化データ465である。
さらに、図17に示す膨張処理手段458は、この端点接続細線化データ465の膨張処理を実行して、図18に示す膨張処理済み端点接続細線化データ466を生成する。図17に示すOR処理手段453は、膨張処理手段454の処理結果と、膨張処理手段458の処理結果とのOR処理を実行する。すなわち、図18に示す膨張処理画像データ462と、膨張処理済み端点接続細線化データ466とを入力して、これらの画像のOR処理を実行する。このOR処理の結果、いずれかの画像の欠損部は、他方の画像によって補われ、OR処理データ467として生成される。このOR処理データ457が図17に示すOR処理手段の出力する修復追記抽出画像データ155に相当する。
このように、本処理例では、追記情報の線幅に関わらず、2つの異なる処理シーケンスの欠損部修復処理を実行する手段に並列に同一の追記情報の欠損部修復を実行させて、その結果画像をOR処理することで、一方の修復手段において修復されなかった部分を他方の修復手段で修復されたデータを適用して補うことが可能となり、より完全性の高い修復処理が実現される。
図19、図20を参照して、追記情報が、例えばラインマーカなどのように太い線で実行された場合の修復処理例について説明する。図19には、原本ドキュメント491と、ラインマーカによる追記情報493の含まれる追記ドキュメント492を示している。図17に示す差分抽出手段201は、これらの両ドキュメントから差分を抽出して、追記抽出画像データ494を得る。
追記抽出画像データ494には欠損部(1,2,3の文字構成部)が含まれる。この欠損部を含む追記抽出画像データについて、第1、第2の欠損部修復手段において、異なる処理シーケンスを適用した欠損部修復処理が実行される。図20を参照してこの処理を説明する。
図20に示す追記抽出画像データ494は、図17に示す差分抽出手段201によって抽出された追記抽出画像データ153に相当する。この追記抽出画像データは、図17に示す膨張処理手段454において、膨張処理が実行され、図20に示す膨張処理画像データ495が生成される。膨張処理によって、追記抽出画像データ494に含まれる微小な途切れは修復される。この場合、すべての途切れが解消した例を示している。
この膨張処理に並列して、追記抽出画像データ494は、図17に示す細線化手段455、端点抽出手段456、端点接続手段457、膨張処理手段458においても処理がなされる。細線化手段455は、追記抽出画像データ494に対する細線化処理を実行して、図20に示す細線化データ496を生成する。この細線化データに対する端点接続、膨張処理が実行され、図20に示す膨張処理済み細線化データ597が生成される。
図17に示すOR処理手段453は、膨張処理手段454の処理結果と、膨張処理手段458の処理結果とのOR処理を実行する。すなわち、図20に示す膨張処理画像データ495と、膨張処理済み細線化データ497とを入力して、これらの画像のOR処理を実行する。このOR処理の結果、いずれかの画像の欠損部は、他方の画像によって補われ、OR処理データ498として生成される。このOR処理データ498が図17に示すOR処理手段の出力する修復追記抽出画像データ155に相当する。
図21に示すフローチャートを参照して、本処理例における処理シーケンスについて説明する。まず、ステップS201において、追記情報を含む追記ドキュメント画像データを取得する。これは、例えばスキャナなどによって読み取られた画像データである。さらに、ステップS202において、追記を含まない原本ドキュメント画像データを取得する。これも、例えばスキャナなどによって読み取られた画像データである。
ステップS203では、これらの2つの画像データに基づく差分抽出処理を実行する。図16または図17に示す差分抽出手段201における処理であり、この結果として追記抽出画像データが生成される。ただし、この追記抽出画像データは、追記情報と、原本情報の重なり部が欠落した欠損部を含むデータとなる。
ステップS204、S205の処理は、それぞれ図16に示す第1追記欠損部修復手段451、および第2追記欠損部修復手段452の処理である。図17においては、膨張処理手段454の処理(S204)と、細線化手段455〜膨張処理手段458の処理(S205)に相当する。
図16に示す第1追記欠損部修復手段451、すなわち、図17に示す膨張処理手段454は、ステップS204において、欠損部を有する追記抽出画像データの膨張処理を実行する。また、図16に示す第2追記欠損部修復手段452、すなわち、図17に示す細線化手段455〜膨張処理手段458は、ステップS205において、欠損部を有する追記抽出画像データの細線化処理、端点抽出処理、端点接続処理、膨張処理を実行する。
最後に、ステップS206において、図16、図17に示すOR処理手段453が、2つの異なるシーケンスで実行された修復画像のOR処理を実行し、このOR処理結果画像を、最終的な修復追記抽出画像データとして出力する。
これらの処理によって、欠損部を有する追記情報は、異なる複数の処理シーケンスで修復処理が実行され、最終的にこれらの修復処理結果をOR処理することで、一方の修復処理によって修復されなかった途切れ部分を他方の修復処理結果によって補うことが可能となり、より確実な修復がなされた修復追記画像を得ることができる。
最後に、図22を参照して、上述した処理を実行する画像処理装置のハードウェア構成例について説明する。図22に示す構成は、例えばPCなどの情報処理装置と、スキャナ等の画像データ読み取り部531と、プリンタなどの画像データ出力部532を備えたハード構成例を示している。
CPU(Central Processing Unit)501は、上述の実施例において説明した各種のデータ処理、すなわち、差分データなどの欠損部を含むデータの抽出処理、追記情報の線幅判定処理、処理対象データに対する膨張処理、細線化処理、端点抽出、接続処理、OR処理などを含む一連の処理を実行する。制御手段としてのCPU501は、これらの処理の実行シーケンスを記述したコンピュータ・プログラムに従った処理を実行する。
ROM(Read Only Memory)502は、CPU501が使用するプログラムや演算パラメータ等を格納する。RAM(Random Access Memory)503は、CPU501の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を格納する。これらはCPUバスなどから構成されるホストバス504により相互に接続されている。
ホストバス504は、ブリッジ505を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス506に接続されている。
キーボード508、ポインティングデバイス509は、ユーザにより操作される入力デバイスである。ディスプレイ510は、液晶表示装置またはCRT(Cathode Ray Tube)などから成り、各種情報をテキストやイメージ情報として表示する。
HDD(Hard Disk Drive)511は、ハードディスクを内蔵し、ハードディスクを駆動し、CPU501によって実行するプログラムや情報を記録または再生させる。ハードディスクは、原本ドキュメント画像データ、追記ドキュメント画像データ等の情報、各種処理において生成されるデータなどを格納する。さらに、各種のデータ処理プログラム等、各種コンピュータ・プログラムが格納される。
ドライブ512は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体521に記録されているデータまたはプログラムを読み出して、そのデータまたはプログラムを、インタフェース507、外部バス506、ブリッジ505、およびホストバス504を介して接続されているRAM503に供給する。リムーバブル記録媒体521も、ハードディスクと同様のデータ記録領域として利用可能である。
接続ポート514は、外部接続機器522を接続するポートであり、USB,IEEE1394等の接続部を持つ。接続ポート514は、インタフェース507、および外部バス506、ブリッジ505、ホストバス504等を介してCPU501等に接続されている。通信部515は、ネットワークに接続され、外部とのデータ通信処理を実行する。データ読み取り部531は、ドキュメントの読み取り処理を実行し、データ出力部532は、ドキュメントデータの出力処理を実行する。
なお、図22に示す画像処理装置のハードウェア構成例は、1つの装置例を示すものであり、本発明の画像処理装置は、図22に示す構成に限らず、上述した実施例において説明した処理を実行可能な構成であればよい。
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
なお、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウエアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトから、コンピュータに無線転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本発明の構成によれば、例えば原本ドキュメントと、追記データの付加された追記ドキュメントの差分データのように欠損部を有するデータについての欠損部を解消する修復処理を効率的にかつ正確に実行することができる。具体的には、本発明の画像処理装置の一実施例構成では、追記抽出画像に含まれる欠損部を有する追記情報の線幅を検出し、線幅が細い場合と太い場合とで、それぞれの線幅に適合した処理シーケンスに従った欠損部修復処理を実行する。具体的には、追記情報が太線である場合は膨張処理による修復を実行し、細線である場合は、細線化処理、端点抽出処理、端点接続処理による修復処理を実行する。本構成によって、線幅に応じた最適な欠損部修復が可能となり、より精度の高い追記情報を生成することが可能となる。
また、本発明の一実施例構成によれば、複数の異なる処理シーケンスによる追記情報の欠損部修復処理を並列に実行し、これらの複数の処理結果に基づくOR処理結果を生成して、このOR処理結果を最終的な欠損部修復結果とする。本構成によれば、一方の修復処理シーケンスにおいて修復できなかった欠損部を他方の修復処理シーケンスの結果に基づいて補うことが可能となり、結果としてより完全性の高い追記情報を生成することが可能となる。
10 原本ドキュメント
20 追記ドキュメント
30 スキャナ
51 原本ドキュメント
52 追記ドキュメント
53 線分データ
55 追記情報
61 追記ドキュメント
62 追記情報
71 罫線付きドキュメント
72 罫線除去情報
100 画像処理装置
151 原本ドキュメント画像データ
152 追記ドキュメント画像データ
153 追記抽出画像データ
155 修復追記抽出画像データ
201 差分抽出手段
202 処理切り替え手段
203 追記線幅検出手段
204 太線追記欠損部修復手段
205 太線追記欠損部修復手段
301 原本ドキュメント画像データ
302 追記ドキュメント画像データ
303 追記情報
304 追記抽出画像データ
305 細線化画像データ
306 膨張処理画像データ
321 細線化処理画像データ
322 端点抽出データ
323 接続端点ペア抽出データ
324 端点接続データ
401 色抽出手段
402 罫線分離手段
451 第1追記欠損部修復手段
452 第2追記欠損部修復手段
453 OR手段
454 膨張処理手段
455 細線化手段
456 端点抽出手段
457 端点接続手段
458 膨張手段
461 追記抽出画像データ
462 膨張処理画像データ
465 端点接続細線化データ
466 膨張処理済み端点接続細線化データ
467 OR処理データ
491 原本ドキュメント
492 追記ドキュメント
493 追記情報
494 追記抽出画像データ
495 膨張処理画像データ
496 細線化データ
497 膨張処理済み細線化データ
498 OR処理データ
501 CPU(Central Processing Unit)
502 ROM(Read-Only-Memory)
503 RAM(Random Access Memory)
504 ホストバス
505 ブリッジ
506 外部バス
507 インタフェース
508 キーボード
509 ポインティングデバイス
510 ディスプレイ
511 HDD(Hard Disk Drive)
512 ドライブ
514 接続ポート
515 通信部
521 リムーバブル記録媒体
522 外部接続機器
531 データ読み取り部
532 データ出力部

Claims (8)

  1. 欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行する画像処理装置であり、
    原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出手段と、
    前記追記情報抽出手段の生成した追記抽出画像を入力し、予め定められた第1の処理シーケンスに従って、追記欠損部修復処理を実行する第1追記欠損部修復手段と、
    前記追記情報抽出手段の生成した追記抽出画像を入力し、前記第1の処理シーケンスとは異なる予め定められた第2の処理シーケンスに従って、追記欠損部修復処理を実行する第2追記欠損部修復手段と、
    前記第1追記欠損部修復手段の処理結果と、前記第2追記欠損部修復手段の処理結果とのOR処理を実行して、最終的な追記欠損部修復処理結果データを生成するOR処理手段と、
    を有することを特徴とする画像処理装置。
  2. 前記第1追記欠損部修復手段は、膨張処理手段を有し、
    前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報の膨張処理による欠損部修復処理を実行する構成であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記第2追記欠損部修復手段は、細線化手段と、端点抽出手段と、端点接続手段と膨張処理手段を有し、
    前記追記情報抽出手段の生成した追記抽出画像に含まれる追記情報を前記細線化手段において細線化処理を実行し、前記端点抽出手段において、細線化処理結果に基づく端点抽出処理を実行し、前記端点接続手段において、抽出端点の接続処理を実行し、前記膨張処理手段において、前記端点接続手段における抽出端点の接続処理によって生成された端点接続データの膨張処理を実行して、欠損部修復処理を実行する構成であることを特徴とする請求項1に記載の画像処理装置。
  4. 前記追記情報抽出手段は、
    原本ドキュメント画像データと、前記追記ドキュメント画像データを入力し、2つの入力画像データの差分を抽出する差分抽出手段によって構成されることを特徴とする請求項1に記載の画像処理装置。
  5. 前記追記情報抽出手段は、
    追記ドキュメント画像データを入力し、該追記ドキュメント画像データから特定の色の記録情報を追記情報として抽出する色抽出手段によって構成されることを特徴とする請求項1に記載の画像処理装置。
  6. 前記追記情報抽出手段は、
    追記ドキュメント画像データを入力し、該追記ドキュメント画像データから罫線情報を削除し、罫線情報以外の情報を追記情報として抽出する罫線分離手段によって構成されることを特徴とする請求項1に記載の画像処理装置。
  7. 欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行する画像処理方法であり、
    原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出ステップと、
    前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、予め定められた第1の処理シーケンスに従って、追記欠損部修復処理を実行する第1追記欠損部修復ステップと、
    前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記第1の処理シーケンスとは異なる予め定められた第2の処理シーケンスに従って、追記欠損部修復処理を実行する第2追記欠損部修復ステップと、
    前記第1追記欠損部修復ステップにおける処理結果と、前記第2追記欠損部修復ステップにおける処理結果とのOR処理を実行して、最終的な追記欠損部修復処理結果データを生成するOR処理ステップと、
    を有することを特徴とする画像処理方法。
  8. 画像処理装置において、欠損部を有する修復対象データを入力し、欠損部を解消した復元データを生成する画像処理を実行させるコンピュータ・プログラムであり、
    原本ドキュメントに対して追記処理のなされた追記ドキュメントに基づく追記ドキュメント画像データを入力し、該追記ドキュメント画像から追記情報を抽出した追記抽出画像を生成する追記情報抽出ステップと、
    前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、予め定められた第1の処理シーケンスに従って、追記欠損部修復処理を実行する第1追記欠損部修復ステップと、
    前記追記情報抽出ステップにおいて生成した追記抽出画像を入力し、前記第1の処理シーケンスとは異なる予め定められた第2の処理シーケンスに従って、追記欠損部修復処理を実行する第2追記欠損部修復ステップと、
    前記第1追記欠損部修復ステップにおける処理結果と、前記第2追記欠損部修復ステップにおける処理結果とのOR処理を実行して、最終的な追記欠損部修復処理結果データを生成するOR処理ステップと、
    を実行させることを特徴とするコンピュータ・プログラム。
JP2011084424A 2011-04-06 2011-04-06 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Expired - Fee Related JP5035443B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011084424A JP5035443B2 (ja) 2011-04-06 2011-04-06 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011084424A JP5035443B2 (ja) 2011-04-06 2011-04-06 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2005369931A Division JP4784299B2 (ja) 2005-12-22 2005-12-22 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Publications (2)

Publication Number Publication Date
JP2011154713A true JP2011154713A (ja) 2011-08-11
JP5035443B2 JP5035443B2 (ja) 2012-09-26

Family

ID=44540577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011084424A Expired - Fee Related JP5035443B2 (ja) 2011-04-06 2011-04-06 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Country Status (1)

Country Link
JP (1) JP5035443B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018087921A1 (ja) * 2016-11-14 2018-05-17 株式会社Pfu 編集装置、編集方法、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61267177A (ja) * 1985-05-22 1986-11-26 Hitachi Ltd 文書画像追加情報の蓄積方法
JPS63156296A (ja) * 1986-12-19 1988-06-29 Ricoh Co Ltd 欠損文字の復元方法
JP2004213230A (ja) * 2002-12-27 2004-07-29 Ricoh Co Ltd 加筆抽出装置及び加筆抽出方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61267177A (ja) * 1985-05-22 1986-11-26 Hitachi Ltd 文書画像追加情報の蓄積方法
JPS63156296A (ja) * 1986-12-19 1988-06-29 Ricoh Co Ltd 欠損文字の復元方法
JP2004213230A (ja) * 2002-12-27 2004-07-29 Ricoh Co Ltd 加筆抽出装置及び加筆抽出方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018087921A1 (ja) * 2016-11-14 2018-05-17 株式会社Pfu 編集装置、編集方法、及びプログラム

Also Published As

Publication number Publication date
JP5035443B2 (ja) 2012-09-26

Similar Documents

Publication Publication Date Title
WO2019188040A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US7925082B2 (en) Information processing apparatus, information processing method, computer readable medium, and computer data signal
JP5682218B2 (ja) 差異検出装置、差異出力装置及びプログラム
JP2008217347A (ja) ナンバープレート認識装置、その制御方法、コンピュータプログラム
JP4539756B2 (ja) 画像処理装置及び画像処理プログラム
JP2006350680A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4760883B2 (ja) 画像処理装置及び画像処理プログラム
US20180343354A1 (en) Document size detecting apparatus, non-transitory computer readable storage medium, and image processing system
JP2008011135A (ja) 画像処理装置および画像処理プログラム
JP6035157B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5035443B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2016063507A (ja) 画像処理装置及び画像処理プログラム
JP5993100B2 (ja) 画像処理装置および特定図形検出方法
US8805076B2 (en) Image processing apparatus, image processing method and computer readable medium
JP4784299B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4631696B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2008269131A (ja) 画像処理装置及び画像処理プログラム
JP2007174037A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4803001B2 (ja) 画像処理装置及び画像処理プログラム
JP2007140703A (ja) 保険証読取方法、そのシステム及び保険証認識装置
US9325872B2 (en) Image processing apparatus
JP4789065B2 (ja) 画像処理装置および画像処理プログラム
JP6323009B2 (ja) 画像処理装置及び画像処理プログラム
JP2010182052A (ja) 画像処理装置及び画像処理プログラム
JP4900025B2 (ja) 画像処理装置及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110406

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120605

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120618

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees