JP6874387B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP6874387B2
JP6874387B2 JP2017011844A JP2017011844A JP6874387B2 JP 6874387 B2 JP6874387 B2 JP 6874387B2 JP 2017011844 A JP2017011844 A JP 2017011844A JP 2017011844 A JP2017011844 A JP 2017011844A JP 6874387 B2 JP6874387 B2 JP 6874387B2
Authority
JP
Japan
Prior art keywords
colors
color
image
components
ruled line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017011844A
Other languages
English (en)
Other versions
JP2018121226A (ja
Inventor
卓治 鎌田
卓治 鎌田
大内 敏
敏 大内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2017011844A priority Critical patent/JP6874387B2/ja
Priority to US15/861,635 priority patent/US10699110B2/en
Publication of JP2018121226A publication Critical patent/JP2018121226A/ja
Application granted granted Critical
Publication of JP6874387B2 publication Critical patent/JP6874387B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/412Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/413Classification of content, e.g. text, photographs or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/414Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Character Input (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

本発明は、画像処理装置、画像処理方法およびプログラムに関する。
PDF(Portable Document Format)の圧縮率を高め、さらに高画質化を行う技術として高圧縮PDFがある。高圧縮PDFは、多値画像を、文字の領域と、文字以外の領域とに分離し、それぞれに適した圧縮(MMRやJPEG等)を行うことで、高圧縮を実現する技術である(例えば特許文献1参照)。
しかしながら、従来技術においては、多値画像の中に、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表が含まれる場合、表内の構成要素(文字、罫線、セルの少なくとも1つ)の画質や圧縮率を向上させることが困難であるという問題がある。
本発明は、上記に鑑みてなされたものであって、多値画像に含まれる表内の構成要素の画質や圧縮率を向上させることが可能な画像処理装置、画像処理方法およびプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する検出部と、前記表の構成要素の情報に基づいて、前記表の構成要素の色を統一する方法を切り替える統一部と、を備え、前記統一部は、前記表の構成要素の色数に応じて、前記構成要素の色の統一を行うか否かを切り替え、前記表に含まれる罫線の色数に応じて、罫線の色を統一するか否かを切り替え、着目した罫線の色数が1つの場合は、その色で該罫線を塗りつぶし、着目した罫線の色数が2つで、それぞれ罫線に対応する色、セルに対応する色だった場合は、罫線に対応する色に統一し、着目した罫線の色数が2以上で、罫線に対応する色、セルに対応する色以外の色が存在する場合、該罫線の色は変更しない、画像処理装置である。
本発明によれば、多値画像に含まれる表内の構成要素の画質や圧縮率を向上させることができる。
図1は、高圧縮PDFの処理手順を説明する模式図である。 図2は、画像処理装置のハードウェア構成例を示すブロック図である。 図3は、画像処理装置の機能的な構成例を示すブロック図である。 図4は、検出部の具体例を示すブロック図である。 図5は、原稿種判定部による処理の一例を示すフローチャートである。 図6は、ヒストグラム作成に使用しない領域の一例を示す図である。 図7は、ヒストグラムの作成方法を説明するための図である。 図8は、第2の検出部が有する機能の一例を示す図である。 図9は、第2の検出部による処理の一例を示すフローチャートである。 図10は、図9のステップS215の詳細な処理内容を示すフローチャートである。 図11は、斜めの罫線かどうかの判定方法を説明するための図である。 図12は、本来ベタ部だったものが二値化の失敗により表として誤判定されてしまう場合の一例を示す図である。 図13は、従来例と本実施形態との比較の結果を示す図である。 図14は、算出部による処理の一例を示すフローチャートである。 図15は、決定部による処理の一例を示すフローチャートである。 図16は、圧縮処理部による処理の一例を示すフローチャートである。 図17は、補正テーブルの一例を示す図である。
以下、添付図面を参照しながら、本発明に係る画像処理装置、画像処理方法およびプログラムの実施形態を詳細に説明する。
まず、本実施形態の具体的な説明に先立ち、高圧縮PDFの概要を説明する。高圧縮PDFは、文字などの線画を含む画像から高圧縮PDFファイルを生成する画像圧縮技術である。ここで線画とは、文字および文字と同様に扱うことが望ましい線で表現されるオブジェクトを指す。線で表現されるオブジェクトであっても、絵柄として扱うことが望ましいオブジェクトは、線画ではなく絵柄に含まれるものとする。絵柄は、線画以外のオブジェクト、つまり、写真などの網点で表現されるオブジェクトや、文字と同様に扱うことが望ましくない図形などのオブジェクトである。
図1は、高圧縮PDFの処理手順を説明する模式図である。高圧縮PDFファイルを生成するには、まず、処理対象となる多値画像(以下、「入力画像」と呼ぶ)Im0から、線画のみからなる2値画像である第1の画像レイヤIm1と、線画色を表現する多値画像である第2の画像レイヤIm2と、線画以外の絵柄および背景を表現する多値画像である第3の画像レイヤIm3とを生成する。そして、第1の画像レイヤIm1および第2の画像レイヤIm2に対しては、線画の圧縮に適した圧縮処理を施し、第3の画像レイヤIm3に対しては、絵柄や背景の圧縮に適した圧縮処理を施す。その後、圧縮処理が施された第1の画像レイヤIm1と、圧縮処理が施された第2の画像レイヤIm2と、圧縮処理が施された第3の画像レイヤIm3とを、例えばPDF形式の1つの画像ファイル上で統合することにより、入力画像Im0に対応する高圧縮PDFファイルFImを生成する。
第1の画像レイヤIm1に対して施される圧縮処理は、例えば、2値画像に対するMMRなどの符号化方式による圧縮処理である。第2の画像レイヤIm2に対して施される圧縮処理は、例えば、第3の画像レイヤIm3に対する圧縮処理よりも解像度を落とした、多値画像に対するJPEGなどの符号化方式による圧縮処理である。第1の画像レイヤIm1に対する圧縮処理と第2の画像レイヤIm2に対する圧縮処理は、線画の圧縮に適した圧縮処理である点で共通するため、以下ではこれらの処理を総称して「第1の圧縮処理」と呼ぶ。一方、第3の画像レイヤIm3に対して施される圧縮処理は、例えば、第2の画像レイヤIm2に対する圧縮処理よりも解像度を高めた、多値画像に対するJPEGなどの符号化方式による圧縮処理である。第3の画像レイヤIm3に対する圧縮処理は、絵柄や背景の圧縮に適した圧縮処理であるため、以下では、線画の圧縮に適した第1の圧縮処理と区別して、「第2の圧縮処理」と呼ぶ。なお、上述の符号化方式は一例であり、上述の例とは異なる符号化方式による圧縮処理を行ってもよい。
高圧縮PDFでは、以上のように、処理対象の入力画像Im0を線画の領域とそれ以外の絵柄や背景の領域とに分離し、線画の領域に対しては第1の圧縮処理を施すとともに、線画以外の絵柄や背景の領域に対しては第2の圧縮処理を施すことで、圧縮の効率を高めている。ここで、圧縮の効率とは、画像を再現したときの画質(再現性)を損なわずに、どれだけ圧縮率を高めることができたかどうかを表し、再現性を維持しながら高い圧縮率が得られれば、効率のよい圧縮が行われたことになる。
上述の高圧縮PDFは様々な変形が可能である。例えば、上述の第1の画像レイヤIm1を、黒の線画のみからなる画像レイヤと、有彩色または白の線画のみからなる画像レイヤとに分けてもよい。また、線画色を表現する第2の画像レイヤIm2を持たずに、線画色を、線画の座標に対応させた別の情報として持たせる構成であってもよい。
次に、本実施形態の画像処理装置について具体的に説明する。図2は、本実施形態の画像処理装置1のハードウェア構成例を示すブロック図である。画像処理装置1は、ハードウェアとして、例えばPC(パーソナルコンピュータ)などのコンピュータシステムを用いることができる。すなわち、画像処理装置1は、例えば図2に示すように、CPU101などのプロセッサと、RAM102、ROM103、HDD104などの記憶装置と、LANなどのネットワークに接続する通信インタフェースであるネットワークI/F105とを備え、これらがバス110を介して接続された構成とされる。
本実施形態の画像処理装置1は、例えば、ネットワークに接続されたスキャナやホストコンピュータから処理対象の画像(入力画像Im0)をネットワークI/F105を介して取得する。そして、画像処理装置1は、この入力画像Im0を処理することで高圧縮PDFファイルFImを生成し、生成した高圧縮PDFファイルFImをHDD104に蓄積したり、ネットワークI/F105を介してネットワークに接続されたホストコンピュータに送信したりする。入力画像Im0から高圧縮PDFファイルFImを生成する機能は、例えば、CPU101が、RAM102をワークエリアとして利用し、ROM103やHDD104などに格納された所定のプログラムを実行することにより実現される。
なお、本実施形態の画像処理装置1は、例えばコピー機や複合機など、スキャナを備える画像形成装置の一機能として実現することもできる。この場合、図2に示すようなコンピュータシステムを画像形成装置2が備える。そして、例えば、画像形成装置内部のCPU101が、RAM102をワークエリアとして利用し、ROM103やHDD104などに格納された所定のプログラムを実行することにより、スキャナあるいはネットワーク越しに取得した入力画像Im0から高圧縮PDFファイルFImを生成する機能が実現される。なお、入力画像Im0から高圧縮PDFファイルFImを生成するまでの一連の処理のうち、特にハードウェア実装に適する部分については、その機能を例えばASIC(Application Specific Integrated Circuit)などの専用のハードウェアを用いて実現する構成であってもよい。
図3は、本実施形態の画像処理装置1の機能的な構成例を示すブロック図である。画像処理装置1は、入力画像Im0から高圧縮PDFファイルFImを生成するための機能的な構成要素として、例えば図3に示すように、検出部10と、算出部14と、決定部15と、圧縮処理部16と、ファイル生成部17とを備える。本実施形態の画像処理装置1では、処理対象として取得された入力画像Im0が検出部10、算出部14および圧縮処理部16に入力され、この入力画像Im0に対応する高圧縮PDFファイルFImがファイル生成部17から出力される。
検出部10は、処理対象の入力画像Im0から線画候補を検出する機能モジュールである。図4は、検出部10の具体例を示すブロック図である。検出部10は、例えば図4に示すように、第1の検出部11と、エッジ強調部12と、第2の検出部13とをサブモジュールとして含む。
第1の検出部11は、処理対象の入力画像(多値画像)Im0に対して線画候補のエッジを検出する処理を行い、その結果(以下、「エッジ検出結果」と呼ぶ)を出力する。この第1の検出部11が行う処理は、例えば入力画像Im0の3値化により得られる黒画素や白画素の連続性、パターンを利用して、文字などの線画と網点とを分離することで、線画候補を構成するエッジを検出する処理である。ここでエッジ検出結果とは、例えば、第1の検出部11により線画候補のエッジとして検出された画素群の入力画像Im0における座標位置を表す座標データである。このエッジ検出結果は、エッジ強調部12に入力される。
エッジ強調部12は、第1の検出部11から受け取ったエッジ検出結果を用いて、処理対象の入力画像Im0に含まれる線画候補のエッジを強調する処理を行い、線画候補のエッジが強調されたエッジ強調画像を生成する。このエッジ強調部12によるエッジ強調の処理は、第1の検出部11のエッジ検出結果を用いて行われるため、入力画像Im0に含まれる絵柄のエッジを強調してしまう可能性が少ない。このため、エッジ強調の度合いを大きくすることができ、線画候補のエッジが明確に強調されたエッジ強調画像を生成することができる。エッジ強調部12により生成されたエッジ強調画像は、第2の検出部13に入力される。また、線画候補のエッジが明確に強調されることで、線画の端部鈍りの影響を減らすことで、原稿種認識の判定精度を高めている。
原稿種判定部18は、エッジ強調画像に対して、原稿種を判定する処理を行い、その結果を出力する。図5は、原稿種判定部18による処理の一例を示すフローチャートである。原稿種判定部18は、画像圧縮に先立ち、エッジ強調画像の画素値のヒストグラムを利用して、原稿種が(1)文字のみ原稿、(2)新聞原稿、(3)薄い原稿、(4)その他の原稿の何れであるかを判定する。以下、図5の具体的な内容を説明する。
まず原稿種判定部18は、一画面のヒストグラムを作成する際の対象領域(判定領域)を特定する(ステップS1)。ヒストグラム作成に使用しない領域はふたつあり、ひとつは、図6に示すような上下左右の10%の領域である。もうひとつは、画像のエッジ部の領域である。前者は、原稿の影などの入り込み、後者は、文字と背景部の中間画素の入り込みを嫌っており、それらは絵柄でないにも係わらず、絵柄と誤判定される種となりうるので、ヒストグラム作成には使わない領域とする。
次に、原稿種判定部18は、ヒストグラムを作成する(ステップS2)。ここでは、図7に示すように、実験などにより決定する4つの閾値で5値化し、それぞれ画素をカウントする。ここでは、ヒストグラムを、(1)真の黒色、(2)黒色、(3)中間色、(4)灰色、(5)白色の5つに分類して画素数を計測する。以下、閾値を決める方法を記載する。
真の黒色と黒色の閾値th1の決め方としては、真の黒色は新聞の文字色の輝度値よりも低くなるように設定する。
また、黒色と中間色の閾値th2の決め方としては、新聞の文字色が、黒色側に入るように設定する。また、文字のみ原稿の文字色(特に黒文字)が、黒色側に入るように設定し、薄い原稿の黒文字が中間色に入るように設定する。
また、中間色と灰色の閾値th3の決め方としては、新聞地色が、灰色側に入るように設定する。
また、灰色と白色の閾値th4の決め方としては、新聞地色が、灰色側に入るように設定し、白地が白色側に入るように設定する。また、白抜き文字が、白色側に入るように設定する。
図5に戻って説明を続ける。次に、原稿種判定部18は、白抜き文字の判定を行う(ステップS3)。白抜き文字は、黒文字よりも太く、画像のエッジ部を除いても、白色にカウントされる。この性質を利用して、白色に対して閾値判定することで、白抜き文字の生有無を判定する。白抜き文字(または白地)が無かった場合(ステップS3:No)、原稿種判定部18は、白抜き文字が無いという情報をHDD104等の記憶装置に記憶する(ステップS4)、白抜き文字が無いという情報は、新聞原稿、薄い原稿、その他の原稿から白抜き文字を検出する際に利用する。
抜き文字(または白地)が存在した場合(ステップS3:Yes)、原稿種判定部18は、原稿種が「薄い原稿」であるか否かを判定する(ステップS5)。薄い原稿は、中間色〜白色が多くを占め、真の黒色と黒色が少ない。この性質を利用して、各カウント値に対して閾値判定することで、薄い原稿であるか否かを判定する。ステップS5の結果が肯定の場合(ステップS5:Yes)、原稿種を「薄い原稿」と決定し(ステップS6)、処理は終了する。
ステップS5の結果が否定の場合(ステップS5:No)、原稿種判定部18は、原稿種が「新聞原稿」であるか否かを判定する(ステップS7)。新聞原稿は、新聞地色(灰色)が多くを占め、真の黒色と中間色が少ない。この性質を利用して、各カウント値に対して閾値判定することで、新聞原稿であるか否かを判定する。ステップS7の結果が肯定の場合(ステップS7:Yes)、原稿種を「新聞原稿」と決定し(ステップS8)、処理は終了する。
ステップS7の結果が否定の場合(ステップS7:No)、原稿種判定部18は、原稿種が「文字のみ原稿」であるか否かを判定する(ステップS9)。文字のみ原稿は、真の黒色、黒色、白色が多くを占め、中間色、新聞地色(灰色)が少ない。この性質を利用して、各カウント値に対して閾値判定することで、文字のみ原稿であるか否かを判定する。ステップS9の結果が肯定の場合(ステップS9:Yes)、原稿種を「文字のみ原稿」と決定し(ステップS10)、処理は終了する。
ステップS9の結果が否定の場合(ステップS9:No)、原稿種を「その他の原稿」と決定し(ステップS11)、処理は終了する。
以上に説明した原稿種判定部18による判定結果と、エッジ強調画像は、図4に示す第2の検出部13へ入力される。
第2の検出部13は、原稿種判定部18から入力される情報に基づき、エッジ強調画像に対して線画候補を検出する処理を行い、その結果(以下、「線画候補検出結果」と呼ぶ)を出力する。この第2の検出部13による処理は、例えば、エッジ強調画像を2値化して得られる2値化画像から黒画素や白画素の連結成分を抽出し、連結成分の外接矩形の大きさなどに基づいて、線画候補を検出する処理である。つまり、文字行の抽出を行う前までの処理が、この第2の検出部13による処理の一例に相当する。ここで候補検出結果とは、例えば、第2の検出部13により線画候補として検出された画素群の入力画像Im0における座標位置を表す座標データである。この候補検出結果は、検出部10の検出結果として、算出部14および決定部15に入力される。
図8は、第2の検出部13が有する機能の一例を示す図である。図8に示すように、第2の検出部13は、第1の生成部131、第1の線画候補検出部132、第2の生成部133、第2の線画候補検出部134、検出処理部135、統一部136、出力部137を有する。
第1の生成部131は、多値画像に対して、背景よりも低輝度のオブジェクトを抽出するための2値化を行って第1の画像を生成する。この例では、第1の生成部131は、エッジ強調画像に対して2値化を行って第1の画像を生成する。第1の線画候補検出部132は、第1の画像から線画候補(「第1の線画候補」と称する)を検出する。
第2の生成部133は、多値画像に対して、背景よりも高輝度のオブジェクトを抽出するための2値化を行って第2の画像を生成する。この例では、第2の生成部133は、エッジ強調画像に対して2値化を行って第2の画像を生成する。第2の線画候補検出部134は、第2の画像から線画候補(「第2の線画候補」と称する)を検出する。
検出処理部135は、「検出部」の一態様であり、多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する。この例では、検出処理部135は、第1の画像に基づいて表を検出する。より具体的な内容については後述する。
統一部136は、検出処理部135により検出された表の構成要素の情報に基づいて、表の構成要素の色を統一する方法を切り替える。より具体的には、統一部136は、表の構成要素の色数に応じて、構成要素の色の統一を行うか否かを切り替える。
詳しくは後述するが、本実施形態では、統一部136は、表に含まれる罫線の色数に応じて、罫線の色を統一するか否かを切り替える。さらに言えば、統一部136は、着目した罫線の色数が1つの場合は、その色で該罫線を塗りつぶし、着目した罫線の色数が2つで、それぞれ罫線に対応する色、セルに対応する色だった場合は、罫線に対応する色に統一し、着目した罫線の色数が2以上で、罫線に対応する色、セルに対応する色以外の色が存在する場合、該罫線の色は変更しない。
また、本実施形態では、統一部136は、表に含まれる文字の色数に応じて、文字の色を統一するか否かを切り替える。さらに言えば、統一部136は、着目した文字の色数が1つの場合は、その色で該文字を塗りつぶし、着目した文字の色数が2つで、それぞれ文字に対応する色、セルに対応する色だった場合は、文字に対応する色に統一し、着目した文字の色数が2以上で、文字に対応する色、セルに対応する色以外の色が存在する場合、該文字の色は変更しない。
また、本実施形態では、統一部136は、表に含まれるセルの色数に応じて、セルの色を統一するか否かを切り替える。さらに言えば、統一部136は、セルの色数が1つの場合は、その色でセルの色を統一し、セルの色数が、白と、白以外の色の2つであり、かつ、色相差が閾値以内の場合は、何れかの色でセルの色を統一する。
また、統一部136は、原稿種に応じて、表の構成要素の色を統一するか否かを切り替える。この例では、統一部136は、文字のみ原稿またはグレー新聞原稿の場合は、表の構成要素の色を統一する処理を実施しない。統一部136のより詳細な機能については後述する。出力部137は、最終的な線画候補を出力する。
図9は、第2の検出部13による処理の一例を示すフローチャートである。第2の検出部13は、原稿種判定部18から渡されたエッジ強調画像と、原稿種の判定結果とを用いて、以下の処理を実施する。図9に示すように、まず第1の生成部131は、エッジ強調部12により生成されたエッジ強調画像に対して2値化を実施する(ステップS201)。上述したように、ここでの2値化は、背景よりも低輝度のオブジェクトを抽出するための処理であり、低輝度のオブジェクトを背景と区別できる適切な閾値が設定される。また、背景との分離精度を高めるために動的に閾値を変更して2値化を実施してもよい。また、例えば原稿種に応じて、2値化の方式、閾値を切り替えても良い。その他の原稿は動的に閾値を変更して2値化する方式、薄い原稿は、閾値を高めに設定して動的に閾値を変更して2値化する方式、文字のみ原稿、新聞原稿は、閾値を固定して2値化する方式などに切り替えることで、原稿種に特化した2値化が可能になる。
次に、第1の線画候補検出部132は、ステップS201の2値化で得られた第1の画像から、水平方向に並ぶ黒画素のランと垂直方向に並ぶ黒画素のランを連結して連結成分1を取得する(ステップS202)。文字のみ原稿は、原稿内に線画がほとんどを占めているため、連結成分を計算せずに、2値化の結果をそのまま線画として決定しても良い。ただし、文字のみ原稿と判定された場合でも、2色以上の文字が混在した場合もしくは局所的な色帯上の文字が存在する場合は連結成分1を取得し、連結成分1が2色以上存在する場合は、低輝度の連結成分1のみを残して線画検出結果として出力してもよい。
次に、第1の線画候補検出部132は、ステップS202で取得した連結成分1のうち、連結成分1の外接矩形の大きさや連結成分1の位置関係などに基づいて、絵柄と区別できる連結成分1を第1の線画候補として検出する(ステップS203)。なお、グレー新聞原稿は、ほぼ文字で構成されることが分かっているため、線画候補の検出をしない(ステップS203の処理を実行しない)。これにより、高速化、高画質化が実現できる。しかし、新聞の場合、大きい網点で絵を表現することがあり、適用フィルタでは潰せないことがある。そのため網点を除去する処理を実施することが望ましい。網点の除去方法は、外接矩形の大きさが小さい連結成分1を除去するといった方法でもよいし、付近に同じような外接矩形の大きさを持つ連結成分がある場合にのみ除去するといった方法でもよい。前者は高速であり、後者は小さい句読点が消える可能性を防ぐ方法である。また、少量の網点であれば文字判定してもファイルサイズに大きな影響を与えないので、外接矩形の大きさが小さい連結成分が閾値以下の個数であれば、網点除去をしないようにし、句読点の画質劣化を防いでも良い。また、カラーの新聞原稿は、写真や色地の表などが入る可能性があるので、ステップS203の処理を実施する。さらに、カラー新聞原稿に含まれる表は、黒色の罫線および黒色の文字で構成されることが分かっている。ただし、表の中に、写真が混在しているケースもあるので、後述のステップS215で説明する方法で色を推測する必要がある。
次に、第2の生成部133は、エッジ強調部12により生成されたエッジ強調画像に対して2値化を実施する(ステップS204)。上述したように、ここでの2値化は、背景よりも高輝度のオブジェクトを抽出するための処理であり、高輝度のオブジェクトを背景と区別できる適切な閾値が設定される。また、背景との分離精度を高めるために動的に閾値を変更して2値化を実施してもよい。
次に、第2の線画候補検出部134は、ステップS204の2値化で得られた第2の画像から、水平方向に並ぶ白画素のランと垂直方向に並ぶ白画素のランを連結して連結成分2を取得する(ステップS205)。そして、第2の線画候補検出部134は、ステップS205で取得した連結成分2のうち、連結成分2の外接矩形の大きさなどに基づいて、絵柄と区別できる連結成分2を第2の線画候補として検出する(ステップS206)。
次に、第2の検出部13は、第1の画像に基づいて表を検出し、その検出した表の構成要素(罫線、文字、セルの少なくとも1つ)の色を決定する(ステップS215)。このステップS215の具体的な内容については後述する。なお、グレー新聞原稿は、全て黒文字化されているため、本ステップは実施しない。さらに、文字のみ原稿も全て文字判定されており、文字色を決めることも容易なので、本ステップは実施しない。なお、例えば原稿種判定部18が設けられない形態とすることも可能である。この場合、第2の検出部13に対しては、エッジ強調画像が入力され(原稿種の判定結果は入力されない)、第2の検出部13は、図9および後述の図10の処理を無条件に実行することになる。
次に、出力部137は、ステップS203で検出した第1の線画候補と、ステップS206で検出した第2の線画候補とで、外接矩形が重なる線画候補があるかどうかを判断する(ステップS207)。そして、外接矩形が重なる線画候補があれば(ステップS207:Yes)、それらの線画候補の外接矩形のサイズを比較して、外接矩形のサイズが小さい方の線画候補を削除する(ステップS208)。また、グレー新聞原稿の場合は、地の色よりも高輝度な白抜き領域が存在した場合、白抜き文字である可能性が高い。白抜き文字候補の大きさなどに基づいて、白抜き文字を決定し、重なっている連結成分を削除する。そして、出力部137は、第1の線画候補および第2の線画候補のうちステップS208で削除されずに残った線画候補、または、ステップS215で色が決定された第1の線画候補および第2の線画候補を、最終的な線画候補検出結果として出力し(ステップS209)、一連の処理を終了する。
図10は、図9のステップS215の詳細な処理内容を示すフローチャートである。図10に示すように、まず第1の線画候補検出部132は、図9のステップS201で生成された第1の画像から、水平な罫線を構成しうる画素の集合を示す罫線候補を抽出する。罫線候補の抽出方法はいくつか考えられる。例えば、ある一定以上の長さをもつ黒ラン(黒画素の水平または垂直方向の連続)を構成要素とする連結成分を抽出し、その縦横比で細長いもの(横長のもの)を罫線候補とする方法がある。本実施形態では、ある一定値以下の長さを持つ黒ランを構成要素とする連結成分を抽出し、その縦横比で細長いものを罫線候補とする抽出方法を採用している。なお、白黒反転している表を抽出する場合は、第2の線画候補検出部134が、図9のステップS204で生成された第2の画像から罫線候補を抽出する。その場合、白と黒を入れ替えれば、同様の処理が可能である。例えば白ランを構成要素とする連結成分を抽出し、その縦横比で細長いものを罫線候補とすることができる。なお、罫線は線画に含まれる概念である。
次に、第1の線画候補検出部132は、図9のステップS201で生成された第1の画像から、垂直な罫線を構成しうる画素の集合を示す罫線候補を抽出する。ステップS301の水平が垂直に変わっただけであるが、例えば、ある一定値以下の長さを持つ黒ランを構成要素とする連結成分を抽出し、その縦横比で細長いもの(縦長のもの)を罫線候補とすることができる。
次に、第1の線画候補検出部132は、誤検出した罫線候補を削除する処理を行う(ステップS303)。以下、具体的な内容を説明する。罫線を矩形抽出した結果、矩形の縦、横のサイズから太い罫線候補を抽出できる。この太い罫線候補について、斜めの罫線なのか、線幅の太い罫線なのかを判定し、線幅の太い罫線は罫線候補から除去する。本ステップで斜めの罫線を残す理由は、入力画像にスキューがあった場合に、表が抽出できなくなるのを防ぐためである。また、太い罫線を削除する理由は、ベタ部などの罫線以外の領域を誤検出している可能性が高いためである。
図11を用いて、斜めの罫線かどうかの判定方法について説明する。図11では、ステップS302で生成した垂直な罫線で、かつ図11の(a)(b)のような入力画像である場合を例に挙げて説明する。なお、ステップS301で生成した水平な罫線についても同様の処理を実施する。
図11の(c)(d)に示すように、まず罫線の両端に相当するランの中心位置Xcを算出する。ランの中心位置は、以下の計算式で計算できる。もし、同一水平線上にランが複数有り、どちらも罫線の一部だった場合は、複数のランのうち左端の画素をxs、右端の画素をxeとする。
ラン1の中心座標Xc1=(xs1+xe1)/2
ラン2の中心座標Xc2=(xs2+xe2)/2
また、罫線の傾きAは下記の式で算出することができる。
罫線の傾きA=ラン2の中心座標Xc2−ラン1の中心座標Xc1
罫線の傾きAが0よりも大きい場合は右上がりの罫線となり、Aが0よりも小さい場合は右下がりの罫線となり、A=0の場合は垂直な罫線となる。図11の例では、(c)および(d)のいずれも、右上がりの罫線と一時判定される。
次に、各ラン単位で、罫線の傾きを確認する。隣り合うラン同士ごとに上述の傾きAを求めることで、隣り合うラン同士の傾きAを計算できる。図11の(e)の場合は、傾きAが負の値になるため、右下がりの罫線と判定される。図11の(f)の場合は、傾きAが正の値になるため、右上がりの罫線と判定され、(c)と(e)で判定結果が異なるので、(a)の罫線は、誤検出した罫線であることが分かる。このように誤検出した罫線だった場合、該罫線を罫線候補から削除する。ここで、傾きAが0の場合は、次のラン同士の判定(比較)に移る。この判定を全ランで実施し、判定結果が異なる傾きAが存在しなければ、図11の(f)のように斜めの罫線として確定し、罫線候補に残す。もちろん、傾きが元々垂直に近い場合などは、反対の傾きが存在する斜めの罫線も存在する。そのため、罫線全体の傾きAと、各ランの傾き(隣り合うラン同士の傾き)A’との差の絶対値を閾値としてもよい。また、線幅も計測できるので、線幅が細い罫線は斜めの罫線の確度αが高いとしても良い。
図10に戻って説明を続ける。上述のステップS303の後、検出処理部135は、図9のステップS201で生成された第1の画像に対して矩形抽出を実施して、表の候補を示す表矩形候補を抽出する(ステップS304)。次に、検出処理部135は、ステップS303で抽出した表矩形候補内に存在する水平な罫線および垂直な罫線の数(ステップS303で残った罫線の数)をそれぞれカウントする。そして、罫線の数をカウントした結果、下記の条件Aおよび条件Bを満たせば、表矩形候補とする。
条件Aは、以下の2つの条件(A−1およびA−2)のうちの何れかを満たすことである。
(A−1)表候補矩形内に垂直罫線と水平罫線がそれぞれ3本以上存在すること。
(A−2)表候補矩形内に垂直罫線と水平罫線のどちらかが2本以上存在し、もう一方が4本以上存在すること。
また、条件Bは、以下の3つの条件(B−1〜B−3)の全てを満たすことである。
(B−1)表候補矩形が大きすぎないこと(例えば画像サイズの95%以上ではないこと)。入力画像のほとんどを囲うような矩形は原稿の縁の可能性があるので除外するという意図である。
(B−2)表候補矩形の縦幅もしくは横幅が大きい(例えば800画素以上)とき、表候補矩形内に縦罫線と横罫線がどちらも3本以上あること。これを満たさない場合は、囲い枠であって表ではないと判断して除外するという意図である。
(B−3)表候補矩形の縦幅もしくは横幅が大きい(例えば800画素以上)とき、表候補矩形内の密集度(幅/罫線の数で表すことができる)が密(例えば300画素/本以上)であること。密集していない場合、表の中に絵柄が含まれやすいので除外するという意図である。
また、例えば白黒反転した表矩形候補を抽出する場合、検出処理部135は、図9のステップS204で生成された第2の画像を使って上記と同様の処理を行い、表矩形候補を抽出することができる。
次に、検出処理部135は、ステップS304で抽出した表矩形候補から、表矩形(以下、単に「表」と称する場合もある)を決定する(ステップS305)。ステップS304の結果だけでは、例えば図12の(a)(b)のように、本来ベタ部だったものが二値化の失敗により表として誤判定されてしまう場合がある。その場合、図12(c)に示すように、表と同じ処理をすると著しく画質が劣化するので、ベタ部は非文字化することで対策する。ここでは、ベタ部を判定する方法として、下記の条件を満たす場合にベタ部と判定することができる。
(条件)表矩形の面積に対して罫線の面積が所定の割合以上(例えば40%以上)であること。
上記ベタ部は、表矩形の情報を利用して、非文字化して表矩形から除外することができる。本ステップで、表矩形を決定する。また、薄い原稿は二値化が難しく、ベタ部が混入し易いので、上記の面積割合の閾値をより小さく(厳しく)してもよい(例えば30%以上)。また、白黒反転した表について、白色のベタ部が表として混入しても、白を白化しても上記のような問題は生じない。したがって、上記の条件に対して、「白以外の画素が存在する」といった上限を付加してもよい。
ステップS305の後、検出処理部135は、ステップS303で残った罫線候補と、ステップS305で決定した表矩形を利用して、該表矩形外の誤検出した罫線候補(以下の説明では「誤罫線」と称する場合がある)を削除する(ステップS306)。より具体的には、検出処理部135は、ステップS305で決定した表矩形に含まれる罫線候補(表内罫線)と、表矩形外の太い罫線候補を抽出する。そして、その太い罫線候補が誤検出した罫線でないか再評価する。本ステップで、表矩形外の太い罫線候補を検出して削除する理由は、ベタ部を罫線として誤判定している可能性が残っているためである。表矩形内に存在する誤罫線は、後のステップで除外するので、本ステップでは、表矩形の情報を使って、表矩形外の誤罫線を削除する。本ステップにおいて、誤罫線を削除する条件は以下の3つの条件である。
(条件1)表矩形外に存在すること。
(条件2)太い罫線候補であること(例えば8画素以上の太さを持つ罫線候補)。
(条件3)斜めの罫線の確度αが低いこと(例えば5画素以上の線幅を持つ場合など)。
次に、検出処理部135は、表矩形ごとに、表の構成要素の情報を抽出する(ステップS307)。より具体的には、検出処理部135は、表矩形ごとに、表を構成する罫線色、セル色、文字色の色数をそれぞれ算出する。この例では、色数の計算には、表矩形内に存在する罫線と、ステップS203で得られた線画候補(第1の線画候補)と表の領域(表領域)とから計算した表矩形内の文字とを使う。色数を使うと計算量が多い場合は、(1)有彩1色、(2)黒1色、(3)白1色、(4)白黒以外の無彩1色、(5)2色以上のような分類にしても良い。ただし、ステップS201で得られた第1の画像(低輝度用の二値化画像)から罫線候補を抽出している場合は、罫線候補は白になることはなく、文字も白になることはない。また、文字は、ステップS203で得られた線画候補(第1の線画候補)を使用して文字色を算出することができる。また、白黒反転した表を検出する場合は、ステップS204で得られた第2の画像(高輝度用の二値化画像)と、ステップS206で得られた線画候補(第2の線画候補)を使用して、表内の構成要素の情報を算出することができる。色数を計算する際は、エッジ部ではなく、文字や線画の内側の画素の階調地を使う。エッジ部しかない細い罫線や文字の場合は、3×3画素で最も低輝度な画素の階調値を使う。
次に、検出処理部135は、第2の画像(高輝度用の二値化画像)を加工する(ステップS308)。より具体的には、検出処理部135は、表矩形内の構成要素の情報が下記の3つの条件の何れかに該当する場合、ステップS204で生成された第2の画像(高輝度用の二値化画像)に含まれる線画(第2の線画候補)のうち、表矩形領域と重なる部分を除去する。
(条件1)罫線色、セル色、文字色の色数がそれぞれ1つであること。
(条件2)罫線色、文字色の色数が1つでかつ黒であること。
(条件3)セル色の色数が1つでかつ白であること。
つまり、検出処理部135は、第1の画像に基づいて表を検出する場合、表の構成要素が所定の条件を満たす場合は、第2の画像に含まれる線画のうち表の領域に重なる部分を除外する。この所定の条件は、表に含まれる罫線、セルおよび文字の色数がそれぞれ1つであること、罫線および文字の色数が1つでかつ黒であること、セルの色数が1つでかつ白であることのうちの何れかである。
なお、本ステップは、高圧縮PDFの文字抽出があくまで圧縮を目的にしているために実現できる。例えば上記の条件だと、セルが低輝度で文字が高輝度な場合に文字を削除してしまう。この場合、文字抽出結果をOCRに使う場合には、セルを文字としているため文字が予測できない。しかし、上記の条件であれば、高圧縮PDFは、表領域内で全て、セルを文字、文字をセルと誤判定しても、文字の形状は維持され、ファイルサイズへの影響もほとんど無い。ただ、表領域内で、セルを文字もしくはセルと判定結果が混在する場合、高圧縮PDFは異常画像に見え、画質が大きく劣化する(逆にOCRは問題ない)。
また、白黒反転した表を使う場合は、以下の条件に該当する場合、ステップS201で生成された第1の画像(低輝度用の二値化画像)に含まれる線画(第1の線画候補)のうち表矩形領域と重なる部分を除外する。
(条件1)罫線色、文字色の色数が1つでかつ白であること。
つまり、検出処理部135は、第2の画像に基づいて表を検出する場合、表の構成要素が所定の条件を満たす場合は、第1の画像に含まれる線画のうち表の領域に重なる部分を除外する。この所定の条件は、罫線色、文字色の色数が1つでかつ白であることである。
ステップS308の後、統一部136は、表の構成要素の色を統一する処理を行う(ステップS309)。表単位で罫線色および文字色を統一することで、行単位で色を統一する場合よりも高画質になる。しかし、単純に統一すると変色の問題が生じるため、下記の条件に応じて、罫線色および文字色の統一を行う。図13は、統一を行った結果の比較(従来例と本実施形態との比較)の一例を示す図である。
(条件1)表矩形内の罫線色、セル色、文字色の色数がそれぞれ1つであること。
(条件2)表矩形内の罫線色、セル色、文字色の色数の合計が2つであること(セル色が罫線色、文字色に入り込んでいる場合を想定)。
(条件3)表矩形内の罫線色が黒、文字色が黒であること。
(条件4)表矩形内の罫線色が白、文字色が白であること。
罫線色の統一は、以下の(A)〜(E)に記載した方法で実施する。(A)統一部136は、ステップS306の後の表内に存在する罫線(水平罫線または垂直罫線)のうちの1つの罫線に注目し(注目罫線と称する)、注目罫線に対して、再度色数を測定する。(B)統一部136は、色数を測定した結果が1色だった場合は、注目罫線をその1色に塗りつぶす。(C)色数を測定した結果が2色だった場合で、それぞれ罫線色、セル色だった場合は、統一部136は、注目罫線を罫線色1色で塗りつぶす。(D)色数を測定した結果が2色以上で、罫線色、セル色以外の色が存在する場合、統一部136は、注目罫線の色を変更しない。(E)統一部136は、表内の全ての罫線に対して、(A)〜(D)を実施する。
また、文字色の統一は、以下の(F)〜(J)に記載した方法で実施する。(F)統一部136は、ステップS307で抽出した表内に存在する文字のうちの1つの文字に注目し(注目文字と称する)、注目文字に対して、再度色数を測定する。(G)色数を測定した結果が1色だった場合は、統一部136は、注目文字を1色に塗りつぶす。(H)色数を測定した結果が2色だった場合で、それぞれ文字色、セル色だった場合は、統一部136は、注目文字を文字色1色で塗りつぶす。(I)色数を測定した結果が2色以上で、文字色、セル色以外の色が存在する場合は、統一部136は、注目文字の色を変更しない。(J)統一部136は、表内の全ての文字に対して、(F)〜(I)を実施する。
また、{(B),(C)}でかつ{(G),(H)}の場合、文字色と罫線色に同色の色が使われている可能性が高い(同色を使った方が表として読みやすいため)。そこで、統一部136は、文字色と罫線色の「色相の差の絶対値」及び「輝度の差の絶対値」が閾値以下であれば、罫線色を文字色と同色として判定して、色の統一を行う。同色と判定された場合は、罫線色もしくは文字色のどちらを使うか判定する。例えば以下の手順で判定する方法であってもよい。
(α)スキャナの特性上、エッジ部は鈍るために正しい色にならないので、同色の罫線と文字のエッジ部を除外する。
(β)残った罫線画素と文字画素の画素数と平均色をそれぞれ計測し、画素数の多い方の平均色を罫線色および文字色とて採用する。
これにより、表矩形領域内で罫線色と文字色の一部が統一されるので、高画質化が実現できる。また、文字や罫線が細い場合でも、エッジ部ではなく罫線もしくは文字の内部の安定した色を使用できるため、文字や罫線の色を別々で統一するよりも変色を少なくできる。
また、カラー新聞原稿は、色地上の文字になるため、文字色の色数が複雑になり易い。そこで、カラー新聞は、罫線や文字に黒色が使われやすいことを利用して、文字や罫線のエッジ部以外の色差と輝度値を計測して、どちらも閾値以下(例えば色差が30以下、輝度値が60以下)であれば黒化し、残った文字や罫線に対して、表内での色の統一を実施する形態であってもよい。
セル色の統一は以下のようにして行う。なお、セル色を統一する処理は行わない形態であってもよい。表単位でセル色を統一することで、セル単位で色を決めるよりも高画質になる。しかし、単純に統一すると変色の問題が生じるため、下記の条件に応じて、セル色の統一を行う。
(条件1)セル色が1色であること。
(条件2)セル色が白色と、白以外の色であること。
(条件3)セル色が白を含まない2色以上であること。
(条件1)の場合、統一部136は、閾値上の色相差が無い限り1色でセル色を統一する。(条件2)の場合、統一部136は、白色か、それ以外の色かを色相差で判断し、閾値以内であれば、セル色を統一する。(条件3)の場合は計算量が多いため統一しなくても良いが、例えば統一部136は、色ごとに平均値を計算しておき、色数分のセル色を推測する。その後、セルごとにどの色が良いか比較して、セル内の画素が全て閾値以内である色が存在すれば、セル色を該色に統一する。
本ステップでセル色を決めた場合に、セルが白ではなく低輝度な場合は、ステップS201の二値化によって正しく文字形状が抽出できていない可能性がある。そこで、次のステップS310において、統一部136は、セルの色が閾値以下でかつセルが1色のときに、再度二値化を実施させる(第1の生成部131に実施させる)ことで、正しい文字形状を抽出することができる。なお、白黒反転した表の場合は、低輝度と高輝度が入れ替わるので、統一部136は、第2の生成部133に対して、再度二値化を実施させる。
また、ステップS309において表単位で色を統一しなかった表が存在する場合(ステップS311:Yes)、統一部136は、セル単位で色を統一する処理を実施する(ステップS312)。
セル単位での色の統一は、例えば下記の方法で実現できる。まず、統一部136は、表矩形の領域に対して、水平罫線と垂直罫線で領域を分割する。次に、統一部136は、分割した領域に対して矩形抽出を実施し、閾値以上の縦幅および横幅(例えば何れも30画素以上等)でかつ閾値以下の縦幅および横幅(例えば何れも300画素以下)を有する矩形を、セル候補矩形として抽出する。次に、統一部136は、セル候補矩形と、ステップS203で検出した線画候補とに基づいて、表内の文字(表内文字)を抽出する。次に、統一部136は、注目セル内に、表内文字の近傍(表内文字の横幅サイズ、縦幅サイズ以内の距離)に別の文字がある場合、行として登録する。次に、統一部136は、登録した行から文字色を統一するか判定(上記と同様の判定方法)し、文字色の統一を実施する。なお、ステップS309で、表矩形領域内で罫線色は統一したものの文字色を統一できなかった場合は、罫線色の情報を使うことができる。例えば罫線色が1色の場合、文字色にも同色が使われている可能性が高い。そこで、文字色を算出する際に、罫線色と、算出した「文字色の色相の差の絶対値」及び「輝度の差の絶対値」が閾値以下であれば、罫線色を文字色として使うことができる。これにより、表矩形領域内で罫線色と文字色の一部が統一され、高画質化が実現できる。また、例えば罫線色が2色の場合は、その2色と、算出した「文字色の色相の差の絶対値」及び「輝度の差の絶対値」とを比較することで同様の効果が得られる。
以上が図9のステップS215の具体的な処理内容となる。
図14は、算出部14による処理の一例を示すフローチャートである。この例では、原稿種が「文字のみ原稿」または「新聞原稿」の場合、算出部14は、第2の検出部13の検出結果に対する処理を行わない。また、算出部14は、第2の検出部13により表の構成要素の情報を使って構成要素の色(罫線色や文字色等)を決定した領域に対しても、処理を実施しない。ここでは、算出部14は、原稿種が「その他の原稿」または「薄い原稿」であって、かつ、第2の検出部13により表の構成要素の情報を使って構成要素の色を決定していない領域を対象として、図14の処理を実施する。
図14に示すように、まず算出部14は、検出部10から受け取った候補検出結果に基づいて、処理対象の入力画像Im0に含まれる線画候補のうちの1つを取り出す(ステップS401)。
次に、算出部14は、ステップS401で取り出した線画候補に隣接(1画素程度の隙間があってもよい)する所定の大きさおよび形状の領域を選択し、この領域内の各画素のRGBデータをHSVデータに変換して、RGBデータから変換した各画素のHSVデータの平均値を、線画候補の背景色として算出する(ステップS402)。
次に、算出部14は、ステップS401で取り出した線画候補を構成する各画素のRGBデータをHSVデータに変換し、RGBデータから変換した各画素のHSVデータを用いて、例えば上述した手法により線画候補の色数を算出する(ステップS403)。さらに、算出部14は、線画候補を構成する各画素のHSVデータを用いて、例えば上述した手法により線画候補の色を算出する(ステップS404)。このとき算出部14は、線画候補を構成する各画素のうち、ステップS402で算出した線画候補の背景色に近い(例えばHSV色空間におけるユークリッド距離が所定値以内)画素を除いて、線画候補の色数や線画候補の色を算出してもよい。
次に、算出部14は、ステップS401で取り出した線画候補の外接矩形を求め、この外接矩形の縦方向に並ぶ画素数と横方向に並ぶ画素数をカウントして、線画候補の外接矩形の縦横比を算出する(ステップS405)。さらに、算出部14は、ステップS401で取り出した線画候補のエッジ間の距離(画素数)などから、線画候補の線幅を算出する(ステップS406)。
次に、算出部14は、未処理の線画候補があるか否かを判定し(ステップS407)、未処理の線画候補があれば(ステップS407:Yes)、ステップS401に戻って以降の処理を繰り返す。一方、すべての線画候補に対して処理が終了すると(ステップS407:No)、算出部14は、各線画候補に対するステップS402〜ステップS406の算出結果を出力し(ステップS408)、一連の処理を終了する。
図15は、決定部15による処理の一例を示すフローチャートである。決定部15による処理は、エッジ強調部12により生成されたエッジ強調画像を2値化して得られる2値化画像から黒画素や白画素の連結成分を抽出し、連結成分の外接矩形の大きさや位置関係などに基づいて連結成分をグループ化して、グループに含まれる線画の領域を検出する処理である。この例では、原稿種が「文字のみ原稿」または「新聞原稿」の場合、決定部15は、第2の検出部13の検出結果に対する処理を行わない。また、決定部15は、第2の検出部13により表の構成要素の情報を使って構成要素の色を決定した領域に対しても、処理を実施しない。つまり、第2の検出部13により表の構成要素の情報を使って構成要素の色が決定された線画候補の領域は、そのまま線画領域(線画データ)として決定される。ここでは、決定部15は、原稿種が「その他の原稿」または「薄い原稿」であって、かつ、第2の検出部13により表の構成要素の情報を使って構成要素の色を決定していない領域を対象として、図15の処理を実施する。
図15に示すように、決定部15は、前述の連結成分1を、連結成分1の外接矩形の大きさや位置関係などに基づいて結合し、グループ化する(ステップS501)。ここでのグループ化は、代表的な線画である文字を行単位でグループ化するなど、予め定めた規則に従う。したがって、グループ化されない連結成分も存在する。また、決定部15は、前述の連結成分2を、連結成分2の外接矩形の大きさや位置関係などに基づいて結合し、グループ化する(ステップS502)。ここでのグループ化は、代表的な線画である文字を行単位でグループ化するなど、予め定めた規則に従う。したがって、グループ化されない連結成分も存在する。
次に、決定部15は、ステップS501で得られたグループと、ステップS502で得られたグループとで、エッジ強調画像における位置が重なるグループが存在するか否かを確認する(ステップS503)。ステップS503の結果が肯定の場合(ステップS503:Yes)、それらのグループの外接矩形のサイズを比較して、サイズが小さい方のグループを削除する(ステップS504)。決定部15は、以上のようにして得られたグループに含まれる連結成分の領域を、入力画像Im0に含まれる線画領域(線画データ)として決定する(ステップS505)。決定部15により決定された線画データは、後段の圧縮処理部16に入力される。
図16は、圧縮処理部16による処理の一例を示すフローチャートである。図16に示すように、圧縮処理部16は、原稿種に応じたγ補正パラメータでγ補正を実施する(ステップS601)。この例では、予め原稿種ごとにγ補正パラメータが用意されている。図17は、γ補正パラメータを表すテーブル情報(γ補正テーブル)の一例を示す図である。
次に、圧縮処理部16は、線画データを用いて、入力画像Im0から上述の第1の線画レイヤ、上述の第2の線画レイヤおよび上述の第3の線画レイヤを生成する(ステップS602)。次に、圧縮処理部16は、第1の画像レイヤを圧縮して出力する(ステップS603)。次に、圧縮処理部16は、第2の画像レイヤを圧縮して出力する(ステップS604)。次に、圧縮処理部16は、第3の画像レイヤを圧縮して出力する(ステップS605)。
以下、原稿種のパターンとγ補正との関係を説明する。原稿種として、(1)文字のみ原稿、(2)新聞原稿、(3)薄い原稿、(4)その他の原稿の4つが存在する場合、γ補正によって濃くなる順は、薄い原稿>その他の原稿>白抜き文字有り新聞原稿>白抜き文字無し新聞原稿>文字のみ原稿となる。
文字のみ原稿については、背景を薄くし、文字を濃くすることで、可読性向上を狙う。また、白抜き文字無し新聞原稿については、背景を薄くし、文字を濃くすることで、可読性向上を狙う。また、地肌除去をユーザーが指定した場合は、新聞の背景を白化し、文字のみを残しても良い(次にプリントする際のトナーを削減し、環境に配慮するため)。また、白抜き文字有り新聞原稿については、白抜き文字が有るため、白抜き文字無しに比べて、背景を濃くして、白抜き文字の可読性向上を狙う(白抜き文字の有無による、γ補正の切り替え)。また、地肌除去をユーザーが指定した場合は、新聞の背景を白化し、文字のみを残しても良い(次にプリントする際のトナーを削減し、環境に配慮するため)。薄い原稿については、背景と文字の両方を濃くして、見栄えを良くすることを狙う。このとき、その他の原稿よりも濃くすることを特徴とする。ここで、原稿内に表矩形が5割以上占める場合において、表の罫線色が黒、セル色が白の場合に、γ補正をより濃くしてもよい。その他の原稿については、背景と文字の両方を濃くして、見栄えを良くすることを狙う。
以上に説明したように、本実施形態では、多値画像から検出した表の構成要素の情報に基づいて、表の構成要素の色を統一する方法を切り替える。これにより、多値画像に含まれる表内の構成要素の画質や圧縮率を向上させることができる。
以上、本発明に係る実施形態について説明したが、本発明は、上述の実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上述の実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。
また、上述した実施形態の画像処理装置1で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよいし、インターネット等のネットワーク経由で提供または配布するように構成してもよい。また、各種プログラムを、ROM等に予め組み込んで提供するように構成してもよい。
1 画像処理装置
10 検出部
11 第1の検出部
12 エッジ強調部
13 第2の検出部
14 算出部
15 決定部
16 圧縮処理部
17 ファイル生成部
18 原稿種判定部
101 CPU
102 RAM
103 ROM
104 HDD
105 ネットワークI/F
131 第1の生成部
132 第1の線画候補検出部
133 第2の生成部
134 第2の線画候補検出部
135 検出処理部
136 統一部
137 出力部
特許第4364809号公報

Claims (9)

  1. 多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する検出部と、
    前記表の構成要素の情報に基づいて、前記表の構成要素の色を統一する方法を切り替える統一部と、を備え、
    前記統一部は、
    前記表の構成要素の色数に応じて、前記構成要素の色の統一を行うか否かを切り替え、
    前記表に含まれる罫線の色数に応じて、罫線の色を統一するか否かを切り替え、
    着目した罫線の色数が1つの場合は、その色で該罫線を塗りつぶし、
    着目した罫線の色数が2つで、それぞれ罫線に対応する色、セルに対応する色だった場合は、罫線に対応する色に統一し、
    着目した罫線の色数が2以上で、罫線に対応する色、セルに対応する色以外の色が存在する場合、該罫線の色は変更しない、
    画像処理装置。
  2. 前記統一部は、前記表に含まれる文字の色数に応じて、文字の色を統一するか否かを切り替える、
    請求項1に記載の画像処理装置。
  3. 多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する検出部と、
    前記表の構成要素の情報に基づいて、前記表の構成要素の色を統一する方法を切り替える統一部と、を備え、
    前記統一部は、
    前記表の構成要素の色数に応じて、前記構成要素の色の統一を行うか否かを切り替え、
    前記表に含まれるセルの色数に応じて、セルの色を統一するか否かを切り替える、
    画像処理装置。
  4. 多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する検出部と、
    前記表の構成要素の情報に基づいて、前記表の構成要素の色を統一する方法を切り替える統一部と、を備え、
    前記統一部は、原稿種に応じて、前記表の構成要素の色を統一するか否かを切り替える、
    画像処理装置。
  5. 前記多値画像に対して、背景よりも低輝度のオブジェクトを抽出するための2値化を行って第1の画像を生成する第1の生成部と、
    多値画像に対して、背景よりも高輝度のオブジェクトを検出するための2値化を行って第2の画像を生成する第2の生成部と、をさらに備える、
    請求項1乃至4のうちの何れか1項に記載の画像処理装置。
  6. 前記検出部は、
    前記第1の画像に基づいて前記表を検出し、
    前記表の構成要素が所定の条件を満たす場合は、前記第2の画像に含まれる線画のうち前記表の領域に重なる部分を除外する、
    請求項5に記載の画像処理装置。
  7. 前記検出部は、
    前記第2の画像に基づいて前記表を検出し、
    前記表の構成要素が所定の条件を満たす場合は、前記第1の画像に含まれる線画のうち前記表の領域に重なる部分を除外する、
    請求項5に記載の画像処理装置。
  8. 多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する検出ステップと、
    前記表の構成要素の情報に基づいて、前記表の構成要素の色を統一する方法を切り替える統一ステップと、を含み、
    前記統一ステップは、原稿種に応じて、前記表の構成要素の色を統一するか否かを切り替える、
    画像処理方法。
  9. コンピュータに、
    多値画像から、複数の罫線で区切られる複数のセルの各々に文字を表示可能な表を検出する検出ステップと、
    前記表の構成要素の情報に基づいて、前記表の構成要素の色を統一する方法を切り替える統一ステップと、を実行させ、
    前記統一ステップは、原稿種に応じて、前記表の構成要素の色を統一するか否かを切り替える、
    ためのプログラム。
JP2017011844A 2017-01-26 2017-01-26 画像処理装置、画像処理方法およびプログラム Active JP6874387B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017011844A JP6874387B2 (ja) 2017-01-26 2017-01-26 画像処理装置、画像処理方法およびプログラム
US15/861,635 US10699110B2 (en) 2017-01-26 2018-01-03 Image processing apparatus, image processing method, and non-transitory recording medium storing program for causing computer to execute image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017011844A JP6874387B2 (ja) 2017-01-26 2017-01-26 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2018121226A JP2018121226A (ja) 2018-08-02
JP6874387B2 true JP6874387B2 (ja) 2021-05-19

Family

ID=62906514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017011844A Active JP6874387B2 (ja) 2017-01-26 2017-01-26 画像処理装置、画像処理方法およびプログラム

Country Status (2)

Country Link
US (1) US10699110B2 (ja)
JP (1) JP6874387B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6939449B2 (ja) * 2017-11-14 2021-09-22 株式会社リコー 画像処理装置、画像処理方法および画像処理プログラム
CN109726643B (zh) * 2018-12-13 2021-08-20 北京金山数字娱乐科技有限公司 图像中表格信息的识别方法、装置、电子设备及存储介质
CN111402282B (zh) * 2019-01-02 2023-10-27 中国移动通信有限公司研究院 一种图像处理方法及设备
JP7259491B2 (ja) * 2019-04-01 2023-04-18 富士フイルムビジネスイノベーション株式会社 画像処理装置及びプログラム
US11282187B2 (en) 2019-08-19 2022-03-22 Ricoh Company, Ltd. Inspection system, inspection apparatus, and method using multiple angle illumination
JP7333733B2 (ja) * 2019-09-13 2023-08-25 株式会社Pfu 媒体搬送装置、制御方法及び制御プログラム
JP7404875B2 (ja) 2020-01-06 2023-12-26 株式会社リコー 検査システム、情報処理装置およびプログラム
US11887393B2 (en) * 2021-03-02 2024-01-30 Claritrics Inc. End-to-end system for extracting tabular data present in electronic documents and method thereof

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2890306B2 (ja) 1988-07-12 1999-05-10 富士ゼロックス株式会社 表領域分離装置および表領域分離方法
US5416308A (en) * 1991-08-29 1995-05-16 Video Lottery Technologies, Inc. Transaction document reader
JP3985928B2 (ja) 2000-02-14 2007-10-03 株式会社リコー 画像処理方法、画像処理装置、文字認識装置及び記憶媒体
JP2005190010A (ja) * 2003-12-24 2005-07-14 Fuji Xerox Co Ltd 画像処理装置
JP4861711B2 (ja) 2005-07-27 2012-01-25 株式会社リコー 画像処理装置、画像圧縮方法、画像圧縮プログラム及び記録媒体
US8260057B2 (en) 2007-07-12 2012-09-04 Ricoh Company, Limited Image processing apparatus that obtains a ruled line from a multi-value image
JP5042917B2 (ja) 2007-07-12 2012-10-03 株式会社リコー 画像処理装置およびプログラム
JP2010186246A (ja) * 2009-02-10 2010-08-26 Nec Corp 画像処理装置、方法、及び、プログラム
TWI411927B (zh) * 2010-04-02 2013-10-11 Primax Electronics Ltd 嵌入資訊於輸入影像的方法、自輸入影像中擷取出資訊的方法以及相關裝置
JP6693310B2 (ja) 2015-07-24 2020-05-13 株式会社リコー 画像処理装置、画像処理方法およびプログラム
JP6648580B2 (ja) 2016-03-18 2020-02-14 株式会社リコー 原稿種認識装置、画像形成装置、原稿種認識方法およびプログラム

Also Published As

Publication number Publication date
US10699110B2 (en) 2020-06-30
US20180211106A1 (en) 2018-07-26
JP2018121226A (ja) 2018-08-02

Similar Documents

Publication Publication Date Title
JP6874387B2 (ja) 画像処理装置、画像処理方法およびプログラム
US10455117B2 (en) Image processing apparatus, method, and storage medium
US8009908B2 (en) Area testing method for image processing
JP3990375B2 (ja) 画像処理装置および画像処理方法
JP2001297303A (ja) 文書画像認識方法、装置及びコンピュータ読み取り可能な記録媒体
US9349237B2 (en) Method of authenticating a printed document
JP2008148298A (ja) 画像における異なった内容の領域を識別する方法、画像における異なった内容の領域を識別する装置、および画像における異なった内容の領域を識別するコンピュータ・プログラムを具現するコンピュータ読み取り可能な媒体
JP2009535899A (ja) 走査されたカラー画像からの複調画像の生成
JP6743092B2 (ja) 画像処理装置、画像処理の制御方法、及びプログラム
KR20120132314A (ko) 화상 처리 장치, 화상 처리 방법, 및 컴퓨터 판독 가능한 매체
JP5042917B2 (ja) 画像処理装置およびプログラム
US8620081B2 (en) Image processing apparatus, method, and storage medium for determining attributes
JP5887242B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US8577132B2 (en) Electronic document generation system, electronic document generation method, and program
JP4208520B2 (ja) 画像処理装置および画像処理方法、プログラムおよび記憶媒体
KR101820848B1 (ko) 화상형성장치, 화상처리방법 및 컴퓨터 판독가능 기록매체
JP2012205133A (ja) 画像処理装置およびその制御方法
JP2017118433A (ja) 画像処理装置、画像処理方法およびプログラム
US10931852B2 (en) Image processing apparatus, image processing method, and storage medium, with determining whether or not character clipping rectangle determined to be non-character region is character region
US20120194883A1 (en) Character detection apparatus, character detection method, and computer-readable storage medium
US11948342B2 (en) Image processing apparatus, image processing method, and non-transitory storage medium for determining extraction target pixel
JPWO2020065980A1 (ja) 画像処理装置、制御方法及び制御プログラム
US9098768B2 (en) Character detection apparatus, character detection method, and computer-readable storage medium
JP2017118299A (ja) 画像処理装置、画像処理方法およびプログラム
JP2006345456A (ja) 画像処理装置、方法、プログラム及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210119

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210323

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210405

R151 Written notification of patent or utility model registration

Ref document number: 6874387

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151