JP5672828B2 - 画像処理装置及び画像処理プログラム - Google Patents

画像処理装置及び画像処理プログラム Download PDF

Info

Publication number
JP5672828B2
JP5672828B2 JP2010174515A JP2010174515A JP5672828B2 JP 5672828 B2 JP5672828 B2 JP 5672828B2 JP 2010174515 A JP2010174515 A JP 2010174515A JP 2010174515 A JP2010174515 A JP 2010174515A JP 5672828 B2 JP5672828 B2 JP 5672828B2
Authority
JP
Japan
Prior art keywords
path
separation
image
route
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010174515A
Other languages
English (en)
Other versions
JP2012037926A (ja
Inventor
瑛一 田中
瑛一 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2010174515A priority Critical patent/JP5672828B2/ja
Priority to US13/029,635 priority patent/US8787676B2/en
Publication of JP2012037926A publication Critical patent/JP2012037926A/ja
Application granted granted Critical
Publication of JP5672828B2 publication Critical patent/JP5672828B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/15Cutting or merging image elements, e.g. region growing, watershed or clustering-based techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Description

本発明は、画像処理装置及び画像処理プログラムに関する。
画像内から対象とする領域を分離する技術がある。
これに関連する技術として、例えば、特許文献1には、文字認識装置等において、名刺等の文書の行方向を高い精度で検出することを目的とし、外接矩形検出手段は、入力画像データを走査して文字部等の情報領域を外接矩形として検出し、検出された外接矩形は、この中より、文字部の外接矩形のみが外接矩形選別手段で抽出された後、特徴点検出手段によって特徴点が検出され、ヒストグラム作成手段では、検出された特徴点の位置座標に位置する水平方向及び垂直方向のヒストグラム値の値を増分することにより、水平方向と垂直方向のヒストグラムを作成し、行方向判定手段では、水平方向と垂直方向の各ヒストグラムにおいて、最もヒストグラム値の大きい値をそれぞれ検出し、それらの検出された値に基づいて文字行の行方向を判定することが開示されている。
また、例えば、特許文献2には、スキャナから取り込んだ2値データを基に、領域の識別を行い、識別結果が文字領域の場合に文字のつながり方向を黒画素連結の外接矩形間の距離情報から検出し、自動で文字組み方向を検出して文字認識を行うことを目的とし、文字領域内のすべての黒画素の連結状態を調べ、黒画素が連結しているかたまりに外接する矩形の座標を検出し、各外接矩形に対して最も近い外接矩形を検出してその位置関係を検出し、水平方向につながっていれば水平方向結合カウンタを1つ進め、垂直方向につながっていれば、垂直方向結合カウンタを1つ進め、すべての外接矩形について処理が終了したら、水平方向結合カウンタと垂直方向結合カウンタの値を比較し、水平方向結合カウンタが多い場合は横書き領域と判定され、垂直方向結合カウンタが多い場合は縦書き領域と判定することが開示されている。
また、例えば、特許文献3には、文書画像を文字行方向に3つ以上のブロックに分割し、該文書画像を走査することにより、個々のブロック毎に文字行方向の射影を求め、求めた各ブロックの射影相互間の連結を調べることにより該文書画像上の個々の文字行を切り出すことを特徴とする文字行切り出し方法が開示されている。
また、例えば、特許文献4には、文書内における縦書き文章領域や横書き文章領域の段組構成、文章領域内の各文字サイズ等を考慮することなく、局所的な画素の配置情報に基づいて領域の抽出処理を行うと、結果として得られる領域情報は必ずしも文書の論理構造を反映するものとはならないことを課題とし、画像入力部から入力された文書画像を分割して文章領域を抽出する画像処理装置において、入力文書画像に含まれる文章が縦書きであるか又は横書きであるかを文章方向算定部で算定し、この文章方向算定部による算定結果を参照して分割境界設定部で入力文書画像を分割する境界を設定し、そして、領域分割部において、分割境界設定部で設定された境界にて入力文書画像を分割することが開示されている。
また、例えば、特許文献5には、文字部を含む属性を有する多値画像の情報領域を切り出し、該属性の判別処理を行う画像分割処理装置において、前記多値画像を入力して疑似中間長画像及び単純2値化画像を生成する2値化手段と、前記疑似中間長画像及び単純2値化画像から前記情報領域を外接矩形として検出する外接矩形検出手段と、前記外接矩形検出手段により検出された外接矩形の前記属性を判別する属性判別手段と、前記属性判別手段により前記文字部と判別された外接矩形から演算によって所定の閾値を設定し、その設定された閾値に従って該外接矩形の統合を行って文字部領域を生成、抽出する文字部統合手段とを、備えたことを特徴とする画像分割処理装置が開示されている。
特開平04−311283号公報 特開平05−073718号公報 特開昭58−106665号公報 特開2000−090194号公報 特開平03−233786号公報
本発明は、投影分布又は連結成分を用いた技術では、文字列どうしの境界が不明確となる画像を対象とした場合に、文字画像が分離できなくなってしまうことを抑制するようにした画像処理装置及び画像処理プログラムを提供することを目的としている。
かかる目的を達成するための本発明の要旨とするところは、次の各項の発明に存する。
請求項1の発明は、少なくとも文字画像を含む画像を受け付ける受付手段と、前記受付手段によって受け付けられた画像に対して、該画像内の文字画像を分離する線分である分離経路を算出する経路算出手段と、前記経路算出手段によって算出された分離経路により、前記受付手段によって受け付けられた画像を複数の文字画像へ分離する分離手段を具備し、前記経路算出手段は、該画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素の輝度値の累積値が予め定められた条件を満たす分離経路を算出し、前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙の幅が予め定められた条件を満たす場合に、該間隙にある画素の輝度値によらず、該隣り合う分離経路は等価であると判断し、結合すること、又は、前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙にある画素の輝度値の累積値が予め定められた条件を満たす場合に、該隣り合う分離経路は等価であると判断し、結合することを特徴とする画像処理装置である。
請求項2の発明は、前記経路算出手段は、複数方向の分離経路を算出し、前記経路算出手段によって算出された複数方向の分離経路の特徴量を算出する特徴量算出手段と、前記特徴量算出手段によって算出された特徴量に基づいて、画像の分離方向及び文字画像の状態を判別し、該判別の結果によって前記複数方向の分離経路のうちの分離経路を選択する選択手段を具備し、前記分離手段は、前記選択手段によって選択された分離経路により、前記受付手段によって受け付けられた画像を複数の部分画像へ分離することを特徴とする請求項1に記載の画像処理装置である。
請求項3の発明は、前記経路算出手段は、該画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素の輝度値と経路の移動に基づく重み係数との積の累積値が予め定められた条件を満たす分離経路を算出することを特徴とする請求項1又は2に記載の画像処理装置である。
請求項の発明は、コンピュータを、少なくとも文字画像を含む画像を受け付ける受付手段と、前記受付手段によって受け付けられた画像に対して、該画像内の文字画像を分離する線分である分離経路を算出する経路算出手段と、前記経路算出手段によって算出された分離経路により、前記受付手段によって受け付けられた画像を複数の文字画像へ分離する分離手段として機能させ、前記経路算出手段は、該画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素の輝度値の累積値が予め定められた条件を満たす分離経路を算出し、前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙の幅が予め定められた条件を満たす場合に、該間隙にある画素の輝度値によらず、該隣り合う分離経路は等価であると判断し、結合すること、又は、前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙にある画素の輝度値の累積値が予め定められた条件を満たす場合に、該隣り合う分離経路は等価であると判断し、結合することを特徴とする画像処理プログラムである。
請求項1の画像処理装置によれば、複数の分離経路を結合することができる。
請求項2の画像処理装置によれば、投影分布又は連結成分を用いた技術では、文字列の方向が不明確となる画像を対象とした場合に、文字画像が分離できなくなってしまうことを抑制することができる。
請求項3の画像処理装置によれば、本構成を有していない場合に比較して、より正確に文字画像を分離することができるようになる。
請求項の画像処理プログラムによれば、複数の分離経路を結合することができる。
画像を領域に分離する経路の例を示す説明図である。 異なる始点をもつ複数の経路が、同じ終点をもつ例を示す説明図である。 対象とする画像の例を示す説明図である。 上方向への最短経路の例を示す説明図である。 下方向への最短経路の例を示す説明図である。 1回の往復によって得られる最短経路の例を示す説明図である。 2回の往復によって得られる最短経路の例を示す説明図である。 3回の往復によって得られる最短経路の例を示す説明図である。 収束した場合の最短経路の例を示す説明図である。 最短経路によって画像を領域に分離した例を示す説明図である。 <A>の実施の形態の基本構成例についての概念的なモジュール構成図である。 第A−1の実施の形態の構成例についての概念的なモジュール構成図である。 第A−2の実施の形態の構成例についての概念的なモジュール構成図である。 第A−3の実施の形態の構成例についての概念的なモジュール構成図である。 第A−4の実施の形態の構成例についての概念的なモジュール構成図である。 第A−5の実施の形態の構成例についての概念的なモジュール構成図である。 経路抽出モジュールを組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。 経路抽出モジュールを組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。 経路抽出モジュールを組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。 経路抽出モジュールを組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。 経路情報の算出例を示す説明図である。 経路情報の算出例を示す説明図である。 経路情報を算出するために必要となる情報の例を示す説明図である。 対象とする画像の例を示す説明図である。 対象とする画像を分離した例を示す説明図である。 対象とする画像の投影情報の例を示す説明図である。 分離経路の算出処理の例を示す説明図である。 分離経路の結合処理の例を示す説明図である。 分離経路の結合処理の例を示す説明図である。 特徴量の例を示す説明図である。 第B−1の実施の形態の構成例についての概念的なモジュール構成図である。 第B−2の実施の形態の構成例についての概念的なモジュール構成図である。 方向判別の処理の例を示すフローチャートである。 第B−3の実施の形態の構成例についての概念的なモジュール構成図である。 投影分布の例を示す説明図である。 水平、垂直方向の分離経路の例を示す説明図である。 水平、垂直方向の分離経路の例を示す説明図である。 水平、垂直方向の分離経路の例を示す説明図である。 本実施の形態による処理例を示す説明図である。 本実施の形態による処理例を示す説明図である。 本実施の形態による処理例を示す説明図である。 本実施の形態を実現するコンピュータのハードウェア構成例を示すブロック図である。
<A>と<B>に分けて説明する。<A>に記載のものは、<B>に記載のものを実現するために前提となる技術の一部の説明である。
<A>前提となる技術
まず、<A>に示す実施の形態の概略を説明する。
本実施の形態は、画像内から領域を分離する(切り出す、抽出等ともいわれる)画像処理装置に関するものである。領域を分離するためには、その領域を囲む外郭を決定する必要がある。そこで、領域を囲む外郭として最短経路を採用する。この最短経路によって画像内から領域を分離しようとするものである。
ここで、最短経路とは、対象とする画像上のピクセル(の位置)の1次元配列である線パタンであり、経路上のピクセルの輝度値の累積値をコストとして、ある範囲においてコスト最小又はコスト最大の経路を指す。特に本実施の形態において最短経路とは、図1に例示するように、画像100に対して領域を分割するための外郭にあたり、画像100の下端のあるピクセルを始点111として、画像100の上端にあるピクセルであって、終点候補のセットとしての予め定められた終点候補120内において、経路上のピクセルの輝度値の累積値が最小又は最大となるように定めたピクセルを終点121とした経路である。また、始点111と終点候補120が定まると、移動範囲130が定まることになる。
なお、コスト最小又はコスト最大の用語を用いるが、必ずしも最小、最大である必要はない。ここでのコスト最小又はコスト最大とは、その経路を抽出するための判断条件であり、その経路のコスト(経路上のピクセルの輝度値の累積値)が他の経路のコストよりも小さい又は大きいことであればよい。したがって、最短経路という場合は、特に明記する場合以外は、比較した範囲内で経路のコストが最小又は最大である経路であることの他に、画像を分割する経路を抽出するという目的を達成するための判断条件としてであれば、コストが最小又は最大から2番目等を選択した場合の経路であってもよいし、コストが最小又は最大から1番目、2番目等の複数を選択した場合の経路であってもよい。
次に、最短経路の収束を利用した分離経路の決定について説明する。
本実施の形態は、前述の最短経路について、始点の異なる複数の経路が同一の終点をもつ(以下、経路の収束、とよぶ)ことを利用する。この様子を図2の例に模式的に示す。図2は、異なる始点をもつ複数の経路が、同じ終点をもつ例を示す説明図である。つまり、画像200を対象として、始点211〜213の3つの始点から出発した最短経路が1つの終点221に到達していることを示しており、始点214〜218の5つの始点から出発した最短経路が1つの終点222に到達していることを示している。
以下、複数の単文字を含む文字列画像を受け付けて、単文字どうしを分離することを主に例示して説明する。
本実施の形態は、最短経路の情報に基づいて、文字列画像について、単文字どうしを分離する経路を算出する。なお、前述の先行技術文献に記載されている技術において、この処理の役割をもつ処理は、投影情報又は連結成分に基づく分離領域候補の抽出処理にあたる。
以下、図3〜図10に示す例を用いて、経路の収束を利用した分離経路の決定について説明する。
図3は、対象とする画像の例を示す説明図である。画像300内には、「S」の文字画像310、「T」の文字画像320、「U」の文字画像330を含んでおり、これらは写像をとると互いに重なっているパタンである。セルはピクセルを表し、セルの値はピクセルの輝度値を表す。さらに、図3の例について、最短経路を算出したものを図4、図5の例に示す。セルの数値について、1は経路があることを、0は経路がないことを表している。図4の例は、下端のすべてのピクセルを始点として上端にあるピクセルを終点とする、上方向の最短経路を表す。図5の例は、上端のすべてのピクセルを始点として下端にあるピクセルを終点とする、下方向の最短経路を表す。それぞれ、経路が収束していることが分かる。つまり、始点の数よりも終点の数が少ないのであるから、始点の異なる複数の経路が同一の終点をもっている。
ここで、図4の例のすべての終点を始点とした場合に、下方向への最短経路を算出する処理を行う。この処理結果を図6の例に示す。このように、片方の方向のすべての経路の終点を、もう片方の方向の始点として経路を算出する作業(以下、往復、とする)により、さらに経路が収束する。つまり、図6は、1回の往復(上方向から下方向)によって得られる最短経路の例を示す説明図である。
以下、上方向を開始の方向として、2回の往復により得られた最短経路の例を図7に、3回の往復により得られた最短経路の例を図8に、往復により経路の始点終点に変化がなくなった状態で得られる最短経路の例を図9に示す。ここで、経路の始点終点に変化がなくなった状態とは、上方向の経路と下方向の経路が合致することをいい、合致とは、経路が一致することをいい、その方向は問わない。つまり、一方の始点は他方の終点となり、一方の終点は他方の始点となることである。
また、図9に例示する最短経路を分離経路として、図3に例示する画像を分離する様子を図10の例に模式的に表す。つまり、画像300は、分離経路1010、分離経路1020、分離経路1030、分離経路1040によって、文字画像310(文字「S」)と文字画像320(文字「T」)と文字画像330(文字「U」)との領域に分離されていることが分かる。
本実施の形態は、このように、経路の収束に基づき、分離経路の絞り込みを行うものである。
なお、本実施の形態において、往復の処理は、経路の始点と終点のペアのセットを利用することで、経路の始点と終点の中間のピクセルの位置等を記憶する必要がなくなり、処理対象とするデータ量も少なくなる。また、図9の例に示すような、完全に収束した経路は、経路の始点と終点のペアのセットだけを利用して、中間のピクセルの位置等がなくても算出され得るものである。
往復回数を指定する経路の算出(つまり、必ずしも完全な収束とはならない算出)は、往復回数に対して、分離経路数は単調減少であることを利用して、本実施の形態全体が要求に合わせて分離の度合いを調節するようにしてもよい。
以下、図面に基づき本発明を実現するにあたっての好適な各種の実施の形態の例を説明する。
<本実施の形態の基本構成例>
まず、図11に、本実施の形態(画像処理装置である経路抽出装置)の基本構成例についての概念的なモジュール構成図を示す。この基本構成例は、以下の処理を行う。
(1)経路情報算出処理:経路要求を受け取ると、対象画像を解析し、経路情報を算出する処理である。この処理は、次の2種類がある。
(ア)順方向の経路情報算出(順方向経路情報算出モジュール1110による処理)
(イ)逆方向の経路情報算出(逆方向経路情報算出モジュール1130による処理)
(2)経路選択(経路選択モジュール1120による処理):経路情報を参照し、経路の収束に基づいて経路を選択する処理である。
(1)経路情報算出処理は、順方向経路情報算出モジュール1110、逆方向経路情報算出モジュール1130によって行われる。順方向経路情報算出モジュール1110、逆方向経路情報算出モジュール1130は、経路選択モジュール1120と接続されており、画像1101を解析し、前述した最短経路の情報(経路情報1111、1131)を算出する処理を行う。ここで、順方向とは出力する経路の方向であり、逆方向とは順方向と逆の方向である。例えば、図9の例に示す経路は、上方向が順方向、下方向が逆方向となる。
(2)経路選択は、経路選択モジュール1120によって行われる。経路選択モジュール1120は、順方向経路情報算出モジュール1110、逆方向経路情報算出モジュール1130と接続されており、順方向経路情報算出モジュール1110、逆方向経路情報算出モジュール1130が出力する順方向、逆方向の経路情報(経路情報1111、1131)を得る。さらに、得られた経路情報について、経路の収束を利用した経路の選択を行い、分離経路1199を出力する。
図11の例において、破線で示す情報(開始要求1102、経路要求1121、経路要求1122)は必ずしも存在しない処理を表す。具体的に、開始要求は、経路選択の往復回数、初期方向、初期始点を指定する情報である。また、経路要求は、順方向経路情報算出モジュール1110、逆方向経路情報算出モジュール1130が経路情報を算出するための経路の始点を指定する情報である。
なお、モジュールとは、一般的に論理的に分離可能なソフトウェア(コンピュータ・プログラム)、ハードウェア等の部品を指す。したがって、本実施の形態におけるモジュールはコンピュータ・プログラムにおけるモジュールのことだけでなく、ハードウェア構成におけるモジュールも指す。それゆえ、本実施の形態は、コンピュータ・プログラム、システム及び方法の説明をも兼ねている。ただし、説明の都合上、「記憶する」、「記憶させる」、これらと同等の文言を用いるが、これらの文言は、実施の形態がコンピュータ・プログラムの場合は、記憶装置に記憶させる、又は記憶装置に記憶させるように制御するの意である。また、モジュールは機能に一対一に対応していてもよいが、実装においては、1モジュールを1プログラムで構成してもよいし、複数モジュールを1プログラムで構成してもよく、逆に1モジュールを複数プログラムで構成してもよい。また、複数モジュールは1コンピュータによって実行されてもよいし、分散又は並列環境におけるコンピュータによって1モジュールが複数コンピュータで実行されてもよい。なお、1つのモジュールに他のモジュールが含まれていてもよい。また、以下、「接続」とは物理的な接続の他、論理的な接続(データの授受、指示、データ間の参照関係等)の場合にも用いる。
また、システム又は装置とは、複数のコンピュータ、ハードウェア、装置等がネットワーク(一対一対応の通信接続を含む)等の通信手段で接続されて構成されるほか、1つのコンピュータ、ハードウェア、装置等によって実現される場合も含まれる。「装置」と「システム」とは、互いに同義の用語として用いる。もちろんのことながら、「システム」には、人為的な取り決めである社会的な「仕組み」(社会システム)にすぎないものは含まない。「予め定められた」とは、対象としている処理の前に定まっていることをいい、本実施の形態による処理が始まる前はもちろんのこと、本実施の形態による処理が始まった後であっても、対象としている処理の前であれば、そのときの状況・状態に応じて、又はそれまでの状況・状態に応じて定まることの意を含めて用いる。
また、各モジュールによる処理毎に又はモジュール内で複数の処理を行う場合はその処理毎に、対象となる情報を記憶装置から読み込み、その処理を行った後に、処理結果を記憶装置に書き出すものである。したがって、処理前の記憶装置からの読み込み、処理後の記憶装置への書き出しについては、説明を省略する場合がある。なお、ここでの記憶装置としては、ハードディスク、RAM(Random Access Memory)、外部記憶媒体、通信回線を介した記憶装置、CPU(Central Processing Unit)内のレジスタ等を含んでいてもよい。
また、対象とする画像として、1行の横書きの複数文字の画像とした例を主に説明する。
<実施の形態の分類>
以降、実施の形態の例は、以下の項目によって分類している。
(1)往復回数
(2)経路情報の算出のタイミング
(3)絞り込む情報
(4)絞り込みの調節
つまり、表1の例に示すように分類している。
Figure 0005672828
(1)往復回数は、前述した、往復を行う回数による分類である。往復を行う回数に対して、分離経路の数は単調減少である。第A−1の実施の形態は、往復回数が1回(順方向、逆方向ともに1回)のものであり、他の実施の形態は、往復回数が複数の回数のものである。
(2)経路情報の算出のタイミングは、経路情報の算出について、予めすべての経路情報を算出するか(以下、予め一括して算出という)、又は、逐次必要な経路情報を算出する(以下、逐次算出という)か、による分類である。ワークメモリと、処理時間のトレードオフに関係する。第A−2の実施の形態、第A−3の実施の形態は、予め一括して算出するものであり、第A−4の実施の形態、第A−5の実施の形態は、逐次算出するものである。
(3)絞り込む情報は、最短経路の収束を利用した経路の絞り込みを行う際に、経路そのもの(始点、終点の位置の他にその中間にある経路上のピクセルの位置)を参照するか、又は、始点(若しくは、始点と終点のペア)を参照するか、による分類である。実装においては、ワークメモリ、処理時間の観から、主に後者が選択される。第A−2の実施の形態、第A−4の実施の形態は、経路そのものを参照するものであり、第A−3の実施の形態、第A−5の実施の形態は、始点を参照するものである。
(4)絞り込みの調節は、予め定められた往復回数による絞り込みの結果を分離経路とするか、又は、完全な収束の結果を分離経路とするか、による分類である。両者では、処理が異なる。また、予め一括して経路情報を算出する場合(第A−2の実施の形態、第A−3の実施の形態)において、完全な収束の結果を分離経路とする例を示す。なお、逐次算出によって、完全な収束の結果を得る実施の形態の例もあるが、これは、往復回数を無限大として、終了条件を付けるものであり、往復回数を指定するものと同等であるため、実施の形態を示さない。
<第A−1の実施の形態>
図12は、第A−1の実施の形態の構成例についての概念的なモジュール構成図である。第A−1の実施の形態の例は、1回の往復により、経路を絞り込むものであり、順方向経路算出モジュール1210、逆方向経路終点算出モジュール1220を有しており、順方向経路算出モジュール1210と逆方向経路終点算出モジュール1220は、接続されている。
第A−1の実施の形態は、以下の処理を行う。
<<step1.>>
逆方向経路算出モジュール1220は、画像1201と初期始点1202を受け付け、画像1201を解析することによって、初期始点1202に対応する最短経路の終点1221を算出し、順方向経路算出モジュール1210へ出力する。
<<step2.>>
順方向経路算出モジュール1210は、画像1201を解析することによって、受け取った終点1221を始点として、その始点に対応する分離経路1299を算出し、出力し、終了する。
なお、順方向経路算出モジュール1210は、図11の例に示した経路選択モジュール1120の役割も有していることになる。
<第A−2の実施の形態>
第A−2の実施の形態以降は、複数回の往復により、経路を絞り込む構成である。
図13は、第A−2の実施の形態の構成例についての概念的なモジュール構成図である。第A−2の実施の形態の例は、予め一括して経路情報を算出し、これを絞り込むものであり、順方向経路算出モジュール1310、経路選択モジュール1320、逆方向経路始点終点表算出モジュール1330を有している。特に、予め一括してすべての経路情報を算出し、これを絞り込む場合について説明する。なお、すべての経路とは、対象とする画像の上端又は下端のすべてのピクセルを始点とする場合のすべての経路である。
また、第A−2の実施の形態、第A−3の実施の形態は、始めの1回のみ経路情報を算出するため、処理時間の削減を図る場合に用いられるものである。
第A−2の実施の形態は、以下の処理を行う。
<<step1.>>
逆方向経路始点終点表算出モジュール1330は、経路選択モジュール1320と接続されており、画像1301を解析することによって、始点終点表1331を算出し、経路選択モジュール1320へ出力する。
そして、順方向経路算出モジュール1310は、経路選択モジュール1320と接続されており、画像1301を解析することによって、すべての始点の経路1311を算出し、経路選択モジュール1320へ出力する。
<<step2.>>
経路選択モジュール1320は、順方向経路算出モジュール1310、逆方向経路始点終点表算出モジュール1330と接続されており、順方向の経路1311と逆方向の始点終点表1331に基づいて、経路を絞り込み、分離経路1399として出力し、終了する。
なお、始点終点表については後述する。
<第A−3の実施の形態>
図14は、第A−3の実施の形態の構成例についての概念的なモジュール構成図である。第A−3の実施の形態の例は、始点終点表と経路作成情報のみを算出し、始点を絞り込んだのち、経路を算出するものであり、順方向経路始点終点表算出モジュール1410、始点選択モジュール1420、逆方向経路始点終点表算出モジュール1430、順方向経路作成モジュール1440を有している。
第A−3の実施の形態は、以下の処理を行う。
<<step1.>>
逆方向経路始点終点表算出モジュール1430は、始点選択モジュール1420と接続されており、画像1401を解析することによって、始点終点表1431を算出し、始点選択モジュール1420へ出力する。
そして、順方向経路始点終点表算出モジュール1410は、始点選択モジュール1420、順方向経路作成モジュール1440と接続されており、画像1401を解析することによって、始点終点表1411を算出し、始点選択モジュール1420へ出力する。さらに、経路作成情報1412を算出し、順方向経路作成モジュール1440へ出力する。
<<step2.>>
始点選択モジュール1420は、順方向経路始点終点表算出モジュール1410、逆方向経路始点終点表算出モジュール1430、順方向経路作成モジュール1440と接続されており、順方向の経路の始点終点表1411と、逆方向の経路の始点終点表1431に基づいて、経路の始点1421の絞り込みを行い、順方向経路作成モジュール1440へ出力する。
<<step3.>>
順方向経路作成モジュール1440は、順方向経路始点終点表算出モジュール1410、始点選択モジュール1420と接続されており、順方向経路始点終点表算出モジュール1410から受け取った経路作成情報1412に基づいて、始点選択モジュール1420から受け取った始点1421の経路を作成し、分離経路1499として出力する。
ここで、始点終点表について説明する。
始点終点表とは、経路の始点と終点のペアを保持した情報である。第A−2の実施の形態(図13)、第A−3の実施の形態(図14)における経路の絞り込み処理においては、経路の始点と終点のペアの情報を利用する。以下、この処理を説明する。
いま、順方向の始点終点表を数1とする。
Figure 0005672828
また、逆方向の始点終点表をT’とする。数2は、位置xを始点とする経路の終点位置を表す。
Figure 0005672828
始点終点表は、すべての始点の経路の始点と終点のペアの配列であり、wは対象とする画像の横幅(文字列方向の幅)である。
なお、第A−2の実施の形態(図13)の経路選択モジュール1320は、受け取った経路1311からTを算出し、以下同様の処理を行うものとする。
ある経路を数3とする。
Figure 0005672828
高さyにおける経路の位置を数4とする。
Figure 0005672828
例えば、上方向の経路の始点は数5であり、終点は数6である。
Figure 0005672828
Figure 0005672828
なお、hは対象とする画像の縦幅(文字列方向と垂直な方向の幅)である。順方向が上方向のとき、経路選択モジュール1320が受け付けた経路1311のセットを数7として、すべての数8について、数9とすることで、受け付けた経路からTを算出する。また、順方向が下方向であれば、数10とする。
Figure 0005672828
Figure 0005672828
Figure 0005672828
Figure 0005672828
また、出力する経路の方向である順方向と、往復回数によって、初めに参照する始点終点表の方向(初期方向とする)が定まる。具体的には、往復回数が奇数であれば、初期方向は逆方向であり、往復回数が偶数であれば、初期方向は順方向である。
経路の絞り込み処理は、往復回数を指定する経路の絞り込みと、完全な収束による経路の絞り込みで、処理が異なる。以下、それぞれについて説明する。
まず、往復回数を指定する経路(始点)の絞り込み処理は、数11にしたがう。
Figure 0005672828
次に、完全な収束による経路(始点)の絞り込み処理は、数12にしたがう。
Figure 0005672828
以上のようにして、始点のセットSを得る。なお、第A−2の実施の形態(図13)の経路選択モジュール1320は、数12の処理の後に、数13としてP’を出力する。
Figure 0005672828
なお、順方向が上方向であればy=0であり、下方向であればy=h−1である。
数12内の3行目の式は、ある方向の始点(A)に対する終点(B)を、逆方向の始点(B)とした場合に、その結果である経路の終点が(A)となることを示している。
<第A−4の実施の形態>
複数回の往復により、経路を絞り込む構成のうち、逐次、必要な経路情報を算出する構成を第A−4の実施の形態(図15)、第A−5の実施の形態(図16)に示す。第A−4の実施の形態は逐次経路を算出する構成であり、第A−5の実施の形態は逐次始点を算出し、最後に経路を算出する構成である。
第A−4の実施の形態、第A−5の実施の形態に示す構成は、逐次、必要な経路情報を算出するため、ワークメモリの削減を図る場合に用いられるものである。
第A−4の実施の形態は、順方向経路算出モジュール1510、逐次経路選択モジュール1520、逆方向経路終点算出モジュール1530を有している。
なお、開始要求(図15の例に示す1502、図16の例に示す1602)とは、初期の始点のセットである。
第A−4の実施の形態は、以下の処理を行う。
<<step1.>>
往復回数をRとする。
逐次経路選択モジュール1520は、順方向経路算出モジュール1510、逆方向経路終点算出モジュール1530と接続されており、以下の処理を行う。
Rが偶数ならば、順方向経路算出モジュール1510に始点1521を出力し、step2.へ進む。
そうでなければ、R←R−1として、逆方向経路終点算出モジュール1530に始点1522を出力し、step4.へ進む。
<<step2.>>
順方向経路算出モジュール1510は、逐次経路選択モジュール1520と接続されており、画像1501を解析することによって、受け付けたすべての始点1521の経路1511を算出し、逐次経路選択モジュール1520へ出力する。
<<step3.>>
逐次経路選択モジュール1520は、R=0であれば、受け付けた経路1511を分離経路1599として出力し、終了する。
そうでなければ、R←R−2として、受け付けた経路1511の始点を終点として、逆方向経路終点算出モジュール1530に始点1522を出力する。
<<step4.>>
逆方向経路終点算出モジュール1530は、逐次経路選択モジュール1520と接続されており、画像1501を解析することによって、受け付けたすべての始点1522の経路の終点1531を算出し、逐次経路選択モジュール1520へ出力する。
<<step5.>>
逐次経路選択モジュール1520は、受け付けた終点1531を始点として、順方向経路算出モジュール1510に出力し、step2.へ進む。
<第A−5の実施の形態>
図16は、第A−5の実施の形態の構成例についての概念的なモジュール構成図である。第A−5の実施の形態は、順方向経路終点算出モジュール1610、逐次始点選択モジュール1620、逆方向経路終点算出モジュール1630、順方向経路算出モジュール1640を有している。
第A−5の実施の形態は、以下の処理を行う。
<<step1.>>
往復回数をRとする。
逐次始点選択モジュール1620は順方向経路終点算出モジュール1610、逆方向経路終点算出モジュール1630、順方向経路算出モジュール1640と接続されており、以下の処理を行う。
Rが偶数ならば、順方向経路終点算出モジュール1610に始点1621を出力し、step2.へ進む。
そうでなければ、R←R−1として、逆方向経路終点算出モジュール1630に始点1622を出力し、step4.へ進む。
<<step2.>>
順方向経路終点算出モジュール1610は、逐次始点選択モジュール1620と接続されており、画像1601を解析することによって、受け付けたすべての始点1621の経路の終点1611を算出し、逐次始点選択モジュール1620へ出力する。
<<step3.>>
逐次始点選択モジュール1620は、R=0であれば、受け付けた終点1611を始点1623として順方向経路算出モジュール1640へ出力し、step6.へ進む。
そうでなければ、R←R−2として、受け付けた経路の終点1611を始点として、逆方向経路終点算出モジュール1630に始点1622を出力する。
<<step4.>>
逆方向経路終点算出モジュール1630は、逐次始点選択モジュール1620と接続されており、画像1601を解析することによって、受け付けたすべての始点1622の経路の終点1631を算出し、逐次始点選択モジュール1620へ出力する。
<<step5.>>
逐次始点選択モジュール1620は、受け付けた終点1631を始点1621として、順方向経路終点算出モジュール1610に出力し、step2.へ進む。
<<step6.>>
順方向経路算出モジュール1640は、逐次始点選択モジュール1620と接続されており、受け付けたすべての始点1623の経路を作成し、分離経路1699として出力し、終了する。
<部分画像を出力する実施の形態>
前述の実施の形態により算出した分離経路により、画像分離を行う構成を図17、図18、図19、図20の例に示す。これらの構成は、文字列画像から単文字どうしを分離し、単文字画像として出力しようとする構成である。図17、図18、図19、図20において、経路抽出モジュールとは、第A−1の実施の形態(図12)、第A−2の実施の形態(図13)、第A−3の実施の形態(図14)、第A−4の実施の形態(図15)、第A−5の実施の形態(図16)の構成である。そして、この出力した単文字画像を、例えば文字画像認識装置等によって処理させる。
図17は、経路抽出モジュール1720を組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。この実施の形態は、分離経路によって、画像を分離し、部分画像を出力するものであり、画像分離モジュール1710、経路抽出モジュール1720を有している。
画像分離モジュール1710は、経路抽出モジュール1720と接続されており、文字列画像である画像1701を受け付け、その画像1701を経路抽出モジュール1720から受け取った分離経路1721にしたがって、単文字画像の領域に分離して、部分画像1799として出力する。
図18は、経路抽出モジュール1830を組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。この実施の形態は、画像分離モジュール1810、画像分離モジュール1820、経路抽出モジュール1830を有している。
画像分離モジュール1810は、画像分離モジュール1820、経路抽出モジュール1830と接続されており、経路抽出モジュール1830の前処理として、分離候補領域抽出を行うものである。例えば、画像1801から文字画像だけを部分画像1811として取り出すものである。また、投影情報等を利用する従来技術で分離可能な単文字画像の分離を行い、分離できなかったもの(部分画像1811)を経路抽出モジュール1830に渡す。
画像分離モジュール1820は、画像分離モジュール1810、経路抽出モジュール1830と接続されており、画像分離モジュール1810から受け取った部分画像1811を経路抽出モジュール1830から受け取った分離経路1831にしたがって、単文字画像の領域に分離して、部分画像1899として出力する。なお、画像分離モジュール1810も単文字画像を分離する場合は、画像分離モジュール1810から画像分離モジュール1820へ渡す部分画像1811には、画像分離モジュール1810が分離した領域の単文字画像(経路抽出モジュール1830による処理の対象外の画像)も含まれ、それはそのまま部分画像1899として出力する。
図19は、経路抽出モジュール1930を組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。この実施の形態は、画像分離モジュール1910、経路判定モジュール1920、経路抽出モジュール1930を有している。
経路判定モジュール1920は、画像分離モジュール1910、経路抽出モジュール1930と接続されており、経路抽出モジュール1930の出力する分離経路1931について、その経路によって正しい分離ができるか否かを判別する処理を行う。複数の分離経路間の出現間隔が他の分離経路間の出現間隔と比べて狭い場合(例えば、漢字構成としての偏、旁等)など、意味のない分離経路を棄却するものである。その判別の際に、画像1901を利用してもよい。
画像分離モジュール1910は、経路判定モジュール1920と接続されており、画像1901を経路判定モジュール1920から受け取った分離経路1921にしたがって、単文字画像の領域に分離して、部分画像1999として出力する。
図20は、経路抽出モジュール2040を組み込んだ画像処理装置の構成例についての概念的なモジュール構成図である。この実施の形態は、画像分離モジュール2010、画像分離モジュール2020、経路判定モジュール2030、経路抽出モジュール2040を有している。これは、図18、図19の両者の例を組み合わせた構成である。
画像分離モジュール2010は、画像分離モジュール2020、経路判定モジュール2030、経路抽出モジュール2040と接続されており、図18の例に示した画像分離モジュール1810と同等の処理を行う。
経路判定モジュール2030は、画像分離モジュール2010、画像分離モジュール2020、経路抽出モジュール2040と接続されており、図19の例に示した経路判定モジュール1920と同等の処理を行う。
画像分離モジュール2020は、画像分離モジュール2010、経路判定モジュール2030と接続されており、図19の例に示した画像分離モジュール1910と同等の処理を行う。ただし、対象とする画像は画像分離モジュール2010から受け取った部分画像2011である。
前述の実施の形態内で経路を算出する処理(例えば、第A−1の実施の形態(図12)内の順方向経路算出モジュール1210、逆方向経路終点算出モジュール1220等が行う処理)について、具体的に示した実施例を以下に説明する。
図1の例に示す最短経路について、図21の例に示す最短経路を用いて、始点の異なる複数の最短経路情報を同時に算出する実施例を示す。なお、最短経路の算出法は、Dijkstra法など、いくつか選択肢がある。
図21の例に示す最短経路について説明する。
あるピクセルを親として、終点方向(図21では上方向)に隣り合うピクセル、及び、終点方向とは斜め45度に存在するピクセルの3つのピクセルを子とする木構造を対象とする。この構造を繰り返し、図21の例に示すように、画像2100の端部のあるピクセル(始点2111)を根として、もう片方の端部(終点2121等)を葉として、画像高さが木の高さとなるような木を抽出する。
本実施の形態における最短経路とは、前述の木について、根から葉へ向かうすべての経路のうち経路上のピクセル(すなわち、節)の輝度値の累積値であるコストが最小又は最大である経路をさす。根が始点であり、また、葉が終点である。
まず、基本的な最短経路の算出処理例を数14のアルゴリズムに示す。また、参考のため、図22の例に処理対象の位置関係を示す。
この実施例は後方帰納的な処理であり、図21の例に示す木の最短経路の探索法である。ただし、経路のコストは辺でなく節にある。<step2.画像解析>と、<step3.経路作成>とは、画像上の位置について処理を行う順序が逆であることに注意が必要である。この処理は、上方向の最短経路を算出する処理であるが、下方向はもちろんのこと、あらゆる方向に適用できることは明らかである。
なお、本処理は、「順方向経路算出」に相当する。また、step3.以降が、「順方向経路作成」に相当する。
Figure 0005672828
また、経路の終点のみを出力する場合、p(h−1)を参照してもよいが、ワークメモリを省略するために、step3.以降を数15のアルゴリズムのようにしてもよい。なお、本処理は、「順方向経路終点算出」、「逆方向経路終点算出」に相当する。
Figure 0005672828
また、経路の始点終点表を算出する場合も、同様に数16のアルゴリズムのようにしてもよい。なお、本処理は、「順方向経路始点終点表算出」、「逆方向経路始点終点表算出」に相当する。
Figure 0005672828
ただし、各符号等の意味は、数17に示す通りである。
Figure 0005672828
また、前述の処理において、数18、数19の保持の方法に注意が必要である。
Figure 0005672828
Figure 0005672828
すなわち、数18、数19が保持する数値の個数は、画像サイズよりも小さな個数でよい。
具体的には、数18は経路のコストに関する情報であり、ラインバッファである。処理においては、直前のラインのみ参照できればよく、数18の保持部は2つのラインバッファでよい。また、数19は経路の移動に関する情報であるが、処理において、経路が存在しない領域が逐次判明する。この領域分、保持する領域を逐次削減してもよい。
さらに、始点が指定された場合、図23の例に示すように、前述の木構造を構成することから、最短経路を算出するために必要な情報は、画像サイズよりも小さいことがあり、数18、数19を保持する領域をさらに削減してもよい。なお、図23の例は、画像2300において、始点2311、始点2312とした場合、色付のピクセルは、解析において参照する必要があるピクセルであり、白色のピクセルは、解析において必ずしも参照する必要がないピクセルであることを示している。
<実験結果A>
前述の実施の形態による実験結果を図24、図25、図26を用いて説明する。
図24は、対象とする画像(「Character」の文字画像)の例を示す説明図である。図25は、本実施の形態が対象とする画像を分離した例を示す説明図である。図26は、対象とする画像の投影情報の例を示す説明図である。
これらについて、次の3つの観点から説明する。
(1)投影情報では分離できない文字画像間の間隙である領域であっても分離している。
対象画像内の“ter”の文字画像部分(図24の例参照)については、図26の例に示すように投影情報2600では分離困難な文字画像間の間隙である。つまり、従来技術で投影情報を利用して分離しようとしても、図26の例に示すように投影情報2600には明確な谷がないため分離することは困難である。
このような画像に対して、本実施の形態は、図25の例に示すように文字画像の周囲を通るような形状の分離経路を算出している。
(2)連結成分を分離している。
対象画像内の“har”、“act”及び“er”の文字画像部分(図24の例参照)について、隣り合う文字画像と連結している部分がある。
図25の例に示すように、本実施の形態により、連結する文字画像をも分離している。前述したように最短経路による画像分離の仕組みにより、最短経路が移動可能な範囲内でコスト最小又はコスト最大の分離経路を算出しているからである。
(3)多値画像に対応している。
図24の例に示す画像2400は多値画像である。前述の実施の形態による処理は、2値画像を含む、多値画像に対応するものである。これにより、例えば、2値化に伴う、受け付けた画像毎の閾値設定を行う必要がなくなる。
なお、<A>に記載の発明は、以下のように捉えることができる。
(A1) 画像内から領域を分離するための第1の経路を示す情報である第1の経路情報を算出する第1の経路情報算出手段と、
前記第1の経路とは逆方向の経路であって、前記画像内から前記領域を分離するための第2の経路を示す情報である第2の経路情報を算出する第2の経路情報算出手段と、
前記第1の経路情報算出手段によって算出された第1の経路情報、前記第2の経路情報算出手段によって算出された第2の経路情報のいずれかを選択する経路選択手段
を具備することを特徴とする画像処理装置。
(A2) 前記第1の経路及び前記第2の経路は、該経路上の画素の輝度値の累積値が予め定めた条件を満たす場合の経路である
ことを特徴とする(A1)に記載の画像処理装置。
(A3) 前記第2の経路情報算出手段は、前記第1の経路情報算出手段によって算出された第1の経路情報に基づいて、前記第2の経路情報を算出し、
前記第1の経路情報算出手段は、2回目以降の処理においては、前記第2の経路情報算出手段によって算出された第2の経路情報に基づいて、前記第1の経路情報を算出する
ことを特徴とする(A1)又は(A2)に記載の画像処理装置。
(A4) 前記第1の経路情報算出手段による処理と前記第2の経路情報算出手段による処理は、該処理が予め定められた回数行われること、又は、前記第1の経路情報算出手段によって算出された第1の経路情報と前記第2の経路情報算出手段によって算出された第2の経路情報が合致すること、を終了の条件とする
ことを特徴とする(A3)に記載の画像処理装置。
<B>
次に、<A>に示した技術を前提とした実施の形態を説明する。ただし、分離経路の特徴として、「特開平04−10089」に記載の技術に基づいて算出された分離経路を利用してもよい。
<B>の実施の形態の概要を説明する。本実施の形態では、投影分布又は連結成分を利用せず、分離経路を利用する。ここでの分離経路とは、前述した<A>のものと同等である。なお、<A>は、文字列の画像を受け付け、単文字又は準文字である部分画像を出力するための分離経路の算出に関するものであるが、<B>の実施の形態では、受け付けた文書の画像を、分離経路によって文字列である部分画像に分離して出力するものである。
<B>の実施の形態における分離経路は、経路上のコスト(すなわち、画素の輝度値の累積値)を最小又は最大とするように算出される。これに伴い、投影分布に現れない文字列どうしの分離境界を特定し、文字間に生じている連結を分離して、文字列どうしの分離境界を特定する。
また、段落を構成する文字列の方向は未知であるとき、これを判別する必要がある。<B>の実施の形態では、複数方向の分離経路を比較することで、文字列の方向を判別する。
文書の画像について、前述の分離経路を算出したとき、以下のような性質がある。
(1)正しい方向の分離経路は、誤った方向の分離経路に対して、歪曲が小さい。
(2)分離経路による分離が行われない(分離経路の数が2以下)場合、単文字又は単文字列である。
<B>に示す実施の形態は、画像内の文字の領域を分離する(以下、切り出しともいう)画像処理装置に関するものである。特に、文字認識技術の分野に利用される装置であり、対象とする文書の画像に含まれる文字列の方向を判別すること、文字列の画像を分離する装置に属する。
なお、以降の説明のため、文字認識の技術分野について補足する。文字認識における文字の分離技術を、便宜的に以下のように分類する。
(1)領域(文字領域、非文字領域)の属性判別及び分離
画像内の領域が文字領域であるか、文字ではない領域であるかを判別し、その領域を分離する。
(2)文字列領域の方向判別及び分離
画像(文字領域を含む)内から文字領域内の文字列の領域の方向(縦書き、横書き)を判別し、その文字列の領域を分離する。
(3)単文字領域の分離
画像(文字領域、文字列領域を含む)内から一文字ずつ分離する。
<B>に示す実施の形態は、特に前記(2)に属するものである。
さらに、前記(2)には2つの技術がある。すなわち、以下のことである。
A)文字列の方向判別
B)文字列(領域)の分離
文字列の方向が未知の場合、前記(2)の性能は、すなわち、前記A),B)の直列の性能である。<B>に示す実施の形態は、A),B)を併合したものである。
また、分離経路を求める方向は、横方向(以下、水平方向ともいう。ただし、厳密な水平でなくてもよい)と縦方向(以下、垂直方向ともいう。ただし、厳密な垂直でなくてもよい)の2つとする。なお、分離経路とは、画像内の文字画像を分離する線分である。
本実施の形態は、分離経路の特徴量に基づいて、諸々の判別を行う。以下、分離経路の特徴量について説明する。
分離経路の特徴量は、その本数、個々の位置と形状、経路上の画素の輝度値(以下、画素の輝度値を画素値ともいう)から算出される。これらを表2に例示する。また、対応する記号を定義する。ここで、iは経路の本数に関係するインデックスである。
Figure 0005672828
以下、表2に例示する特徴量についてそれぞれ説明する。
まず、特徴量「Num」について、これは、分離経路の本数そのものを指す。
次に、特徴量「Curl」について、これは、分離経路iの形状の歪曲の度合いを表す値である。ただし、i≦Numである。ここで、歪曲とは、分離経路iの始点と終点から導かれる直線と、分離経路iとの差分値である。前者(分離経路iの始点と終点から導かれる直線)をf(x)、後者(分離経路i)をp(x)とすれば、歪曲とは、
Figure 0005672828
又は、
Figure 0005672828
等となる。
次に、特徴量「Thick」について、これは、分離経路iの太さを表す。文字列分離の目的においては、隣接する文字列どうしの間隙に相当する。ただし、i≦Numである。
次に、特徴量「Cost」について、これは、分離経路の算出により定義されるコストそのものである。又は、別途、分離経路i上の画素値の累積値を求めてもよい。ただし、i≦Numである。
さらに、前記の特徴量について、方向(水平、垂直)毎に分離経路の長さが異なるため、前記特徴量を分離経路の長さで正規化するようにしてもよい。
<B>に示す実施の形態では、「経路の特徴量算出処理」において、前記特徴量を算出するものとする。
<B−1.1 分離経路の算出における、予め定められた区間の解析単位について>
図27を用いて説明する。図27は、分離経路の算出処理の例を示す説明図である。
<A>に示した分離経路の算出、又は「特開平04−10089」に記載の分離経路の算出は、分離経路の移動範囲内において、Costが最小又は最大となる経路を算出するものである。このとき、分離経路の長さが長いほど、分離経路の移動範囲は広くなる。分離経路の移動範囲が必要以上に広い場合、図27(a)に例示するように、局所の障害物パタン(障害物パタン2731〜障害物パタン2747、具体的な例として文字画像等がある)の存在が、分離経路の算出に大きな影響を与える。つまり、文字列の切り出しの目的から前記のことが分離の精度に消極的な影響を与えることがある。例えば、図27(a)に例示するように、障害物パタン2736と障害物パタン2745は、ノイズ、書き込み等によって領域が接触してしまっているため、Costが最小又は最大となる経路は、始点2711から上側の経路を通って終点2712へとつながる。
そこで、分離経路の算出において、対象とする画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素値の累積値が予め定められた条件を満たす分離経路を算出する。具体的には、図27(b)に例示するように、対象画像を予め定められた区間の解析単位に分割し、ある区間の分離経路の終点を隣接する次の区間の始点として(例えば、領域2751における終点である中間点2762を、領域2752における始点としている)、次の区間の分離経路を求めることを繰り返すことで、分離経路の移動範囲を狭め、局所の障害物パタンの存在が分離経路の算出に与える影響を低減する。したがって、領域2754では、障害物パタン2736と障害物パタン2745の接触を横切って分離経路が算出され、分離経路の直進性を調節する。なお、予め定められた範囲としての領域2751等の大きさは、等分としてもよいし、それぞれ異なる大きさとしてもよい。例えば、対象とする画像に存在する文字のサイズを計測し、その文字サイズの倍数に基づいて領域2751等の大きさを定めるようにしてもよいし、文字が予め定められた個数分含まれるように領域2751等の大きさを定めるようにしてもよい。
特に、<A>に示した技術では、分離経路の算出過程において、Costに関するラインバッファを持つが、このとき、予め定められた長さ毎に前記ラインバッファを初期化するだけで、同等の処理が得られる。
<B−1.2 複数の等価な分離経路の結合について>
<A>に記載した技術のように分離経路を算出した後、複数の等価な分離経路を結合する。
ここで、複数の等価な分離経路を結合するには、分離経路の算出において、隣り合う分離経路どうしの間隙の幅が予め定められた条件を満たす場合に、その間隙にある画素の輝度値によらず、その隣り合う分離経路は等価であると判断し、結合する。又は、分離経路の算出において、隣り合う分離経路どうしの間隙にある画素の輝度値の累積値が予め定められた条件を満たす場合に、その隣り合う分離経路は等価であると判断し、結合する。
図28を用いて説明する。図28は、分離経路の結合処理の例を示す説明図である。隣接する2つの分離経路どうしについて、その間隙の障害物パタンによって、隣り合う分離経路は、分離の目的から等価なものであり、これを単一の分離経路として結合する。図28では、分離経路2811〜分離経路2815を結合して分離経路2851にし、分離経路2816〜分離経路2819を結合して分離経路2852にし、分離経路2820と分離経路2821を結合して分離経路2853にし、分離経路2822、分離経路2823には他に等価な分離経路がないので、他の分離経路とは結合していない。なお、結合された分離経路は、1[pixel]以上の太さを持つ。障害物パタン2831〜障害物パタン2837のうち、障害物パタン2834はノイズである。
図29を用いて説明する。図29は、分離経路の結合処理の例を示す説明図である。結合後の分離経路をpathとして、path = (top_path,bottom_path)と、分離経路の輪郭線である2つの分離経路で表す。このとき、結合前の分離経路をsrc_pathとすると、top_path,bottom_pathは、src_pathを指すものとなる。3つ以上の分離経路の結合においては、端部でない分離経路(図29の例では、分離経路2912であるsrc_pathj−1)が消去される。結合され、太さを持つpathは、「top_path ≠ bottom_path」である。また、そうでないpathは、「top_path = bottom_path」である。なお、横方向の分離経路であるので、上端(top)、下端(bottom)の分離経路で示したが、縦方向の分離経路の場合は右端、左端の分離経路となる。
図29の上側の3本の分離経路(分離経路2911〜分離経路2913)を結合した分離経路2951は、(20)式のように表現される。すなわち、分離経路の輪郭線の情報で表現される。
Figure 0005672828
また、図29の下側の1本の分離経路(分離経路2914)は結合していないが、結合の表記に合わせると、(21)式のように表現される。
Figure 0005672828
ここで、隣り合う分離経路の間隙の広さが予め定められた条件を満たす場合(例えば、予め定められた量以下)であれば、障害物パタンの有無に限らず、分離経路を結合するようにしてもよい。また同様に、隣り合う分離経路の間隙のコスト(画素値の累積値)が予め定められた条件を満たす場合(例えば、予め定められた量以下)であれば、分離経路を結合するようにしてもよい。
また、分離経路の結合と特徴量の算出とを併合してもよい。例えば、pathは、n個のsrc_pathを結合したものとすれば、後述する特徴量であるThickをnとするようにしてもよい。
<B−1.3 分離経路の特徴量について>
前述の分離経路の定義に基づいて、表2に示す分離経路の特徴量の具体例を示す。
以下では、簡単のため、横方向の分離経路について説明する。縦方向の分離経路については、上端を右端、下端を左端と読み替えることによって対応できる。以下、経路の始点を(x, y)、終点を(x, y)とし、x < xであるとする。なお、分離経路iについて、水平位置xにおける垂直位置yを「top_path(x), bottom_path(x)」とする。また、水平位置x、垂直位置yにおける、対象画像の画素値をimg(x, y)とする。ここでは、簡単のため、img(x, y)の値が大きいほど、障害物パタンであるとする。
まず、特徴量「Num」は、結合後の分離経路の本数である。
次に、特徴量「Curl」は、(22)式、(23)式、(24)式、(25)式等を用いて抽出する。
Figure 0005672828
Figure 0005672828
Figure 0005672828
Figure 0005672828
次に、特徴量「Thick」は、(26)式、(27)式、(28)式等を用いて抽出する。
Figure 0005672828
Figure 0005672828
Figure 0005672828
次に、特徴量「Cost」は、(29)式、(30)式、(31)式等を用いて抽出する。

Figure 0005672828
Figure 0005672828
Figure 0005672828
前記の特徴量について、図30を用いて説明する。図30は、(22)式、(26)式の特徴量を主として説明している。つまり、図30の例に示す分離経路3011の特徴量であるThickは、(22)式を用いて抽出し、分離経路3012の特徴量であるCurli+1は、(26)式を用いて抽出している。分離経路3011は1以上の太さを持ち、分離経路3012は1の太さを持つ。
Curlについて、分離経路3012を用いて説明する。図30の例では実線の分離経路3012に対して、その始点と終点を通る直線f(x)((32)式)との差分(射線部の面積)を、分離経路3012の長さ(= x−x)で正規化したものである。
Figure 0005672828
Curlについては、(22)式、(23)式、(24)式のように、始点と終点を結ぶ直線との差分を評価するようにしてもよい。具体的には、(22)式は太さを持たない経路と前記直線との差分の絶対値、(23)式は太さを持たない経路と前記直線との差分の2乗誤差、(24)式は太さを持つ経路について中心線を算出した場合の(22)式と同様の差分の絶対値である。また、(25)式のように、経路そのものの微分値を(微分距離d[px])評価するようにしてもよい。
Thickについては、(26)式、(27)式、(28)式のように、最大値、最小値、又は、平均値を用いるようにしてもよい。
Costについては、(29)式、(30)式のように、経路上の画素値の累積値を評価するようにしてもよい。具体的には、(29)式は、経路上の画素値の累積値を評価する例である。(30)式は、経路の中心線上の画素値の累積値を評価する例である。さらに、(31)式のように、経路の湾曲によって、重みづけをした経路上の画素値の累積値を評価するようにしてもよい。つまり、経路上にある画素の輝度値と経路の移動に基づく重み係数との積の累積値が予め定められた条件を満たす分離経路を算出するようにしてもよい。重み係数は、p(x)とp(x+1)との関係に基づいて定まる。具体的には、両方が同じ場合(つまり、直線の場合)は重み係数(c)を1とし、異なる場合(つまり、斜線の場合)は重み係数(c)c(1より大きい値)とする。
<B−2 実施の形態>
ここでは、文書の画像を対象とし、文字列の分離、文字列の方向判別を行う実施の形態を説明する。
<第B−1の実施の形態>
文書の画像を受け付け、文字列の分離を行う実施の形態を説明する。
第B−1の実施の形では、受け付ける文書の画像の文字列の方向は既知であるものとする。
図31は、第B−1の実施の形態の構成例についての概念的なモジュール構成図である。第B−1の実施の形態の例は、既知である文字列方向の分離経路を算出し、この分離経路に基づいて、画像を分離し、出力するものであって、画像受付モジュール3110、分離経路算出モジュール3120、画像分離モジュール3130を有している。
画像受付モジュール3110は、分離経路算出モジュール3120、画像分離モジュール3130と接続されている。画像3100を受け付けて、その画像を分離経路算出モジュール3120、画像分離モジュール3130へ渡す。画像を受け付けるとは、例えば、スキャナ、カメラ等で画像を読み込むこと、ファックス等で通信回線を介して外部機器から画像を受信すること、ハードディスク(コンピュータに内蔵されているものの他に、ネットワークを介して接続されているもの等を含む)等に記憶されている画像を読み出すこと等が含まれる。画像は、2値画像、多値画像(カラー画像を含む)であってもよい。受け付ける画像は、1枚であってもよいし、複数枚であってもよい。また、画像の内容として、少なくとも文字画像が含まれていれば、ビジネスに用いられる文書、広告宣伝用のパンフレット等であってもよい。
分離経路算出モジュール3120は、画像受付モジュール3110、画像分離モジュール3130と接続されている。分離経路算出モジュール3120は、画像受付モジュール3110によって受け付けられた画像に対して、その画像内の文字画像を分離する分離経路を算出する。例えば、<A>、<B−1.1 分離経路の算出における、予め定められた区間の解析単位について>、<B−1.2 複数の等価な分離経路の結合について>に示した技術を適用して実現される。なお、画像受付モジュール3110によって受け付けられた画像の文字列方向は既知であるので、その方向の分離経路を算出すればよい。
画像分離モジュール3130は、画像受付モジュール3110、分離経路算出モジュール3120と接続されている。画像分離モジュール3130は、分離経路算出モジュール3120によって算出された分離経路により、画像受付モジュール3110によって受け付けられた画像を複数の文字列の画像へ分離する。例えば、bottom_pathi−1とtop_pathの間隙の領域を分離する処理である。ここで、前記経路上に、障害物パタンが予め定められた量以上存在する場合、すなわち、Costi−1、又は、Costi−1が予め定められた量以上である場合、top_pathi−1とtop_path、bottom_pathi−1とbottom_path、又は、top_pathi−1とbottom_path の間隙の領域を分離することで、出力される文字列の画像において、文字パタンの一部が失われないようにする。
<第B−2の実施の形態>
文書の画像を受け付け、文字列の方向判別を行う実施の形態を説明する。
図32は、第B−2の実施の形態の構成例についての概念的なモジュール構成図である。第B−2の実施の形態の例は、水平方向、垂直方向の分離経路を算出し、それぞれの分離経路の特徴量を算出し、これらの特徴量を比較し、文字列の方向と状態を判別し、出力するものであって、画像受付モジュール3210、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230、経路特徴量算出モジュール3240、分離方向判別モジュール3250を有している。
画像受付モジュール3210は、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230と接続されており、第B−1の実施の形態における画像受付モジュール3110と同等の処理を行う。画像3200を受け付け、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230に渡す。なお、画像3200内の文字列の方向は既知ではない。したがって、複数方向(ここでは、水平方向と垂直方向)の分離経路を算出する必要がある。なお、ここでは、画像3200は単段落の文書の画像であるとする。
水平方向分離経路算出モジュール3220は、画像受付モジュール3210、経路特徴量算出モジュール3240と接続されており、垂直方向分離経路算出モジュール3230は、画像受付モジュール3210、経路特徴量算出モジュール3240と接続されている。画像受付モジュール3210、水平方向分離経路算出モジュール3220は、第B−1の実施の形態における分離経路算出モジュール3120に該当し、複数方向の分離経路を算出し、その分離経路を経路特徴量算出モジュール3240へ渡す。
水平方向分離経路算出モジュール3220は、画像受付モジュール3210によって受け付けられた画像に対して、その画像内の文字画像を分離する横方向の線分である分離経路を算出する。例えば、<A>、<B−1.1 分離経路の算出における、予め定められた区間の解析単位について>、<B−1.2 複数の等価な分離経路の結合について>に示した技術を適用して実現される。
垂直方向分離経路算出モジュール3230は、画像受付モジュール3210によって受け付けられた画像に対して、その画像内の文字画像を分離する縦方向の線分である分離経路を算出する。例えば、<A>、<B−1.1 分離経路の算出における、予め定められた区間の解析単位について>、<B−1.2 複数の等価な分離経路の結合について>に示した技術を適用して実現される。
経路特徴量算出モジュール3240は、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230、分離方向判別モジュール3250と接続されている。水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230によって算出された複数方向の分離経路の特徴量を算出し、その特徴量を分離方向判別モジュール3250へ渡す。例えば、経路特徴量算出モジュール3240は、前述した特徴量の算出、例えば、(22)式、(26)式、(29)式と、これらの統計値の算出により、実現される。以下では、特徴量Fの最大値をMaxF、最小値をMinF、平均値をAvgFとする。例えば、歪曲の最大値であれば、MaxCurlとする。
分離方向判別モジュール3250は、経路特徴量算出モジュール3240と接続されている。経路特徴量算出モジュール3240によって算出された特徴量に基づいて、画像の分離方向及び文字画像の状態を判別し、その判別の結果によって複数方向の分離経路のうちの分離経路を選択する。具体的には、図33に例示したフローチャートにしたがう。図33は、分離方向判別モジュール3250が行う方向判別の処理の例を示すフローチャートである。
図33に例示したフローチャートは、分離方向判別モジュール3250が表3、表4、表5、表6、表7を用いて判別を行う。以下、このことについて説明する。
Figure 0005672828
Figure 0005672828
Figure 0005672828
Figure 0005672828
Figure 0005672828
分離方向判別モジュール3250では、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230から渡された横方向、縦方向の分離経路の特徴量を比較し、対象画像の分離方向(すなわち、出力する文字列の方向、以下、「方向」とする)と、対象画像の状態(以下、「状態」とする)を判別する。それぞれ、以下の値をとりうる変数である。
「方向」は、以下の3つの値をとりうる。
(1)H:水平
(2)V:垂直
(3)⊥:判別不能
また、「状態」は、以下の4つの値をとりうる。
(1)P:単段落
(2)T:単文字列
(3)C:単文字
(4)⊥:判別不能
図33に例示するフローチャートにおける、表を用いた判別は、まず、表3を用いた判別により、対象画像が単文字か、単文字列か、それ以外かを判別する。これは、分離経路の本数Numによる判別により実現される。つまり、横方向の分離経路と縦方向の分離経路が2本であるならば、単文字(C)である。いずれか一方が2本であるならば、単文字列(T)であり、横方向の分離経路が2本であるならば、方向は水平(H)であり、縦方向の分離経路が2本であるならば、方向は垂直(V)である。両方が2本でないならば、何もしない(状態は判別不能(⊥)のままである)。
表4、表5、表6、表7を用いた判別は、それぞれ、分離経路の特徴量によって、文字列の方向を判別するものである。
図33に例示するフローチャートでは、順番として「Numによる判別」(表3)、「Curlによる判別」(表4、表5)、「Thickによる判別」(表6)、「Costによる判別」(表7)の順に判別を行う。以下、この順番について説明する。
まず、分離方向判別モジュール3250による方向判別は、分離経路の形状に基づいて文字列の方向を判別するものである。このため、形状の情報に基づく判別でない「Costによる判別」は、最も優先度の低い、最後段に設置する。
次に、形状の情報に基づく判別である「Curlによる判別」、「Thickによる判別」について、箇条書きのような配置に対応するためには、必ずしも、MaxThick又はAvgThickが最大の方向が文字列の方向ではない場合があり得る。ゆえに、「Thickによる判別」(表6)の前段に、「Curlによる判別」(表4、表5)を設置する。
次に、「Curlによる判別」について、対象となっている文書の画像によって、必ずしも、水平方向、垂直方向について、算出される分離経路の総数が同じであるとは限らない(すなわち、縦に長い横書き、又は、横に長い縦書き等があり得る)。ある方向の分離経路の平均値は、分離経路の総数に影響されるため、「AvgCurlによる判別」(表5)の前段に、「MaxCurlによる判別」(表4)を設置する。
以上の設計は、複数の文字列によって構成されている文書の画像を想定した判別であるが、対象とする文書の画像は必ずしも複数の文字列によって構成されているとは限らない。このため、最前段に「Numによる判別」(表3)を設置し、対象となっている文書の画像が、単文字か、単文字列か、それ以外かを判別する。
ステップS3302では、「方向」変数に⊥(判別不能)を代入し、「状態」変数に⊥(判別不能)を代入する。
ステップS3304では、表3のNumによる判別を行う。
ステップS3306では、「状態」変数は判別不能(状態==⊥)か否かを判断し、「状態」変数が判別不能の場合はステップS3308へ進み、それ以外の場合はステップS3322へ進む。
ステップS3308では、表4のMaxCurlによる判別を行う。つまり、横方向のMaxCurlが縦方向のMaxCurlよりも小であるならば、方向は水平(H)であり、状態は単段落(P)である。横方向のMaxCurlが縦方向のMaxCurlよりも大であるならば、方向は垂直(V)であり、状態は単段落(P)である。それ以外(両方が同じ)ならば、何もしない(状態は判別不能(⊥)のままである)。
ステップS3310では、「状態」変数は判別不能(状態==⊥)か否かを判断し、「状態」変数が判別不能の場合はステップS3312へ進み、それ以外の場合はステップS3322へ進む。
ステップS3312では、表5のAvgCurlによる判別を行う。つまり、横方向のAvgCurlが縦方向のAvgCurlよりも小であるならば、方向は水平(H)であり、状態は単段落(P)である。横方向のAvgCurlが縦方向のAvgCurlよりも大であるならば、方向は垂直(V)であり、状態は単段落(P)である。それ以外(両方が同じ)ならば、何もしない(状態は判別不能(⊥)のままである)。
ステップS3314では、「状態」変数は判別不能(状態==⊥)か否かを判断し、「状態」変数が判別不能の場合はステップS3316へ進み、それ以外の場合はステップS3322へ進む。
ステップS3316では、表6のAvgThickによる判別を行う。つまり、横方向のAvgThickが縦方向のAvgThickよりも大であるならば、方向は水平(H)であり、状態は単段落(P)である。横方向のAvgThickが縦方向のAvgThickよりも小であるならば、方向は垂直(V)であり、状態は単段落(P)である。それ以外(両方が同じ)ならば、何もしない(状態は判別不能(⊥)のままである)。
ステップS3318では、「状態」変数は判別不能(状態==⊥)か否かを判断し、「状態」変数が判別不能の場合はステップS3320へ進み、それ以外の場合はステップS3322へ進む。
ステップS3320では、表7のAvgCostによる判別を行う。つまり、横方向のAvgCostが縦方向のAvgCostよりも小であるならば、方向は水平(H)であり、状態は単段落(P)である。横方向のAvgCostが縦方向のAvgCostよりも大であるならば、方向は垂直(V)であり、状態は単段落(P)である。それ以外(両方が同じ)ならば、何もしない(状態は判別不能(⊥)のままである)。
ステップS3322では、「方向」変数と「状態」変数の組である(方向,状態)を出力する。
さらに、図32に例示した構成に、画像分離モジュールを付加し、その画像分離モジュールは分離方向判別モジュール3250によって選択された分離経路により、画像受付モジュール3210によって受け付けられた画像を複数の部分画像へ分離するようにしてもよい。
<第B−3の実施の形態>
次に、文書の画像を受け付け、文字列の方向判別と、分離の処理を行う実施の形態を説明する。
図34は、第B−3の実施の形態の構成例についての概念的なモジュール構成図である。第B−3の実施の形態は、水平方向、垂直方向の分離経路を算出し、これらを一旦保持し、それぞれの分離経路の特徴量を算出し、これらの特徴量を比較し、文字列の方向と状態を判別し、判別された方向の分離経路を選択し、これらに基づいて、画像分離を行うものであって、画像受付モジュール3210、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230、分離経路記憶モジュール3435、経路特徴量算出モジュール3240、分離方向判別モジュール3250、画像分離モジュール3460を有している。
なお、前述の実施の形態と同種の構成要素には同一符号を付し重複した説明を省略する。つまり、分離経路記憶モジュール3435と画像分離モジュール3460以外は、第B−2の実施の形態(図32)の構成要素と同等である。
分離経路記憶モジュール3435は、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230、経路特徴量算出モジュール3240、画像分離モジュール3460と接続されており、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230によって算出された分離経路を記憶する。そして、その分離経路を経路特徴量算出モジュール3240又は画像分離モジュール3460へ渡す。
画像分離モジュール3460は、画像受付モジュール3210、分離経路記憶モジュール3435、分離方向判別モジュール3250と接続されている。
画像分離モジュール3460が行う判断、処理を表8に示す。
Figure 0005672828
画像分離モジュール3460は、「方向」変数が判別不能(⊥)以外の場合であって、「状態」変数が単文字列(T)、単文字(C)、判別不納(⊥)以外の場合(つまり、単段落(P)の場合)、分離方向判別モジュール3250によって判別された方向の分離経路を分離経路記憶モジュール3435から選択し、画像受付モジュール3210が受け付けた画像を複数の部分画像に分離する。「方向」変数が判別不能(⊥)の場合、又は、「状態」変数が単文字列(T)、単文字(C)、判別不納(⊥)の場合(つまり、単段落(P)以外の場合)、分離経路を選択せず、画像を分離することはしないで、対象となっている文書の画像をそのまま出力する。
<実験結果B>
<B>に示した実施の形態による実験結果を、この実施の形態を用いないで行った場合と比較して説明する。
まず、本実施の形態を用いないで行った場合について説明する。本実施の形態を用いないで行った場合として背景技術で説明した技術がある。そのアプローチは、大きく2つに分類される。つまり、投影分布に基づくアプローチと、連結成分に基づくアプローチである。なお、連結成分の外接矩形の投影分布によるものは、投影分布に基づくアプローチに属するものとする。
それぞれ基本とする情報(すなわち、投影分布、連結成分)について、特徴量を算出し、複数方向の特徴量について、それぞれ比較することで、文字列の方向判別又は切り出しを行う。
投影分布による文字列の方向判別では、投影分布の値又はその形状(例えば、山、谷)の特徴を比較する。例えば、特許文献1では、水平方向及び垂直方向の投影分布の最大値を特徴量として、方向判別を行う。
連結成分による文字列の方向判別では、連結成分どうしの位置関係の特徴を比較する。例えば、特許文献2では、水平方向及び垂直方向について、最小距離が得られる連結成分の対の数を比較することで、方向判別を行う。一方、例えば、特許文献4では、水平方向及び垂直方向について、連結成分の外接矩形どうしの平均間隔を比較することで、方向判別を行う。
投影分布による文字列の切り出しでは、文字列の方向の投影分布について、文字列の間隙に相当する投影分布の谷を特定し、分離境界とする。
連結成分による文字列の切り出しでは、隣接する連結成分を文字列として統合する。このとき、文字列の方向が既知であれば、この情報を有効に活用する。また、連結成分の統合により、方向判別と切り出しを併合して行うことのできる学術文献(LO’Gorman, “The Document Spectrum for Page Layout Analysis,” IEEE TPAMI, Vol.15, No.11, Nov.1993, pp1162−1173)のような方式もある。
図35は、投影分布の例を示す説明図である。図35(a)は水平・垂直方向の投影分布の例であり、図35(b)は連結成分の外接矩形の水平・垂直方向の投影分布の例である。図35の例に示す文書の画像は、文字が密に配置されている。このような画像からは、文字列の切り出しを行うために有効な投影分布及び連結成分が得られないことがある。一般に、投影分布は文書画像のスキューの影響が大きく、連結成分は文書画像を構成する単文字のパタン(言語、装飾、等)、非文字のパタン(アンダーライン、ノイズ、等)による影響が大きい。特に、図35の例に示すように、文字が密に配置された文書の画像では前述の影響が顕著となる。このような状況では、文字列どうしの分離境界の情報が現れないこと、水平方向及び垂直方向で十分な差異が現れないこととなる。
次に、<B>の実施の形態で用いた分離経路について、図36、図37を用いて説明する。図36、図37は、水平、垂直方向の分離経路の例を示す説明図であり、対象とする画像である段落画像に対して、分離経路を、水平方向と垂直方向についてそれぞれ算出したものである。段落を構成する文字列の方向と同じ方向の分離経路は直線に近い形状であるのに対し、文字列と異なる方向の分離経路は歪曲している(図36参照)。また、分離経路の歪曲の程度が同等であっても、太さが異なる(図37参照)。<B>の実施の形態では、これらの特徴を定量的に評価し、特徴量として比較することで、文字列の方向判別を実現する。具体的には、分離経路の本数、個々の位置と形状及び経路上の画素値に基づいて特徴量を抽出する。
また、<B>の実施の形態では、分離経路の数により、対象としている画像が単段落であるか、単文字であるか、単文字列であるかを判別する。この様子を図38の例に示す。すなわち、正しい方向と、誤った方向の分離経路とが、文字列の方向判別のために有効な差異をもつことを利用している。
<B>の実施の形態による文字列切り出しの例を図39、図40、図41に示す。
図39の例は、第B−3の実施の形態による文字列切り出しの結果である。文書の画像を受け付け、状態=P、すなわち、画像は単段落であると判別した。また、文字列の方向が水平であると判別した。この結果、分離経路によって、隣接(近接)する文字列が分離されていることが分かる(図39(b)、(c)の拡大図参照)。
図40(a)の例は<B>の実施の形態による切り出し結果であり、図40(b)の例は対象とした画像と投影分布であり、図40(c)の例は連結成分の外接矩形である。図40の例から分かるように、<B>の実施の形態により、投影分布に現れない分離境界を特定すること、複数文字の連結を分離すること、単文字の誤分離を統合し、文字列の方向判別及び切り出しも行われている。
また、図41の例から分かるように、図39(b)の例に示すような密に文字の配置された画像のみでなく、図37の例に示すような文字列どうしの間隙の広い画像についても、<B>の実施の形態によって文字列の切り出しが行われている。
図42を参照して、本実施の形態の画像処理装置のハードウェア構成例について説明する。図42に示す構成は、例えばパーソナルコンピュータ(PC)などによって構成されるものであり、スキャナ等のデータ読み取り部4217と、プリンタなどのデータ出力部4218を備えたハードウェア構成例を示している。
CPU(Central Processing Unit)4201は、前述の実施の形態において説明した各種のモジュール、すなわち、順方向経路情報算出モジュール1110、経路選択モジュール1120、逆方向経路情報算出モジュール1130、画像分離モジュール1710、分離経路算出モジュール3120、画像分離モジュール3130、水平方向分離経路算出モジュール3220、垂直方向分離経路算出モジュール3230、経路特徴量算出モジュール3240、分離方向判別モジュール3250、画像分離モジュール3460等の各モジュールの実行シーケンスを記述したコンピュータ・プログラムにしたがった処理を実行する制御部である。
ROM(Read Only Memory)4202は、CPU4201が使用するプログラムや演算パラメータ等を格納する。RAM(Random Access Memory)4203は、CPU4201の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を格納する。これらはCPUバスなどから構成されるホストバス4204により相互に接続されている。
ホストバス4204は、ブリッジ4205を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス4206に接続されている。
キーボード4208、マウス等のポインティングデバイス4209は、操作者により操作される入力デバイスである。ディスプレイ4210は、液晶表示装置又はCRT(Cathode Ray Tube)などがあり、各種情報をテキストやイメージ情報として表示する。
HDD(Hard Disk Drive)4211は、ハードディスクを内蔵し、ハードディスクを駆動し、CPU4201によって実行するプログラムや情報を記録又は再生させる。ハードディスクには、対象とする画像、経路情報、特徴量、文字列画像などが格納される。さらに、その他の各種のデータ処理プログラム等、各種コンピュータ・プログラムが格納される。
ドライブ4212は、装着されている磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体4213に記録されているデータ又はプログラムを読み出して、そのデータ又はプログラムを、インタフェース4207、外部バス4206、ブリッジ4205、及びホストバス4204を介して接続されているRAM4203に供給する。リムーバブル記録媒体4213も、ハードディスクと同様のデータ記録領域として利用可能である。
接続ポート4214は、外部接続機器4215を接続するポートであり、USB、IEEE1394等の接続部をもつ。接続ポート4214は、インタフェース4207、及び外部バス4206、ブリッジ4205、ホストバス4204等を介してCPU4201等に接続されている。通信部4216は、ネットワークに接続され、外部とのデータ通信処理を実行する。データ読み取り部4217は、例えばスキャナであり、ドキュメントの読み取り処理を実行する。データ出力部4218は、例えばプリンタであり、ドキュメントデータの出力処理を実行する。
なお、図42に示す画像処理装置のハードウェア構成は、1つの構成例を示すものであり、本実施の形態は、図42に示す構成に限らず、本実施の形態において説明したモジュールを実行可能な構成であればよい。例えば、一部のモジュールを専用のハードウェア(例えば特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)等)で構成してもよく、一部のモジュールは外部のシステム内にあり通信回線で接続しているような形態でもよく、さらに図42に示すシステムが複数互いに通信回線によって接続されていて互いに協調動作するようにしてもよい。また、複写機、ファックス、スキャナ、プリンタ、複合機(スキャナ、プリンタ、複写機、ファックス等のいずれか2つ以上の機能を有している画像処理装置)などに組み込まれていてもよい。
前述の<A>の実施の形態においては、対象とする画像として、1行の横書きの複数文字の画像とした例を用いて説明したが、もちろん縦書きの文字画像であってもよい。その場合、上方向、下方向とあるのは、右方向、左方向となる。また、文字画像の領域を分離する以外に、その他のオブジェクトの画像(例えば、写真内の人物画像、顔画像等)の領域を分離するのに用いてもよい。
前述の<B>の実施の形態においては、文字列の画像として、横書きの文字列の画像とした例を用いて説明したが、もちろん縦書きの文字列の画像であってもよい。その場合、上方向、下方向とあるのは、右方向、左方向となる。例えば、図40に示した例を縦書きの文字列と考えればよい。
前述の実施の形態においては、数式を用いて説明したが、数式には、その数式と同等のものが含まれる。同等のものとは、その数式そのものの他に、最終的な結果に影響を及ぼさない程度の数式の変形、又は数式をアルゴリズミックな解法で解くこと等が含まれる。
なお、前述の各種の実施の形態(実施例を含む)を組み合わせてもよく(例えば、ある実施の形態内のモジュールを他の実施の形態内に適用する、入れ替えする等も含む)、各モジュールの処理内容として背景技術で説明した技術を採用してもよい。
なお、説明したプログラムについては、記録媒体に格納して提供してもよく、また、そのプログラムを通信手段によって提供してもよい。その場合、例えば、前記説明したプログラムについて、「プログラムを記録したコンピュータ読み取り可能な記録媒体」の発明として捉えてもよい。
「プログラムを記録したコンピュータ読み取り可能な記録媒体」とは、プログラムのインストール、実行、プログラムの流通などのために用いられる、プログラムが記録されたコンピュータで読み取り可能な記録媒体をいう。
なお、記録媒体としては、例えば、デジタル・バーサタイル・ディスク(DVD)であって、DVDフォーラムで策定された規格である「DVD−R、DVD−RW、DVD−RAM等」、DVD+RWで策定された規格である「DVD+R、DVD+RW等」、コンパクトディスク(CD)であって、読出し専用メモリ(CD−ROM)、CDレコーダブル(CD−R)、CDリライタブル(CD−RW)等、ブルーレイ・ディスク(Blu−ray Disc(登録商標))、光磁気ディスク(MO)、フレキシブルディスク(FD)、磁気テープ、ハードディスク、読出し専用メモリ(ROM)、電気的消去及び書換可能な読出し専用メモリ(EEPROM)、フラッシュ・メモリ、ランダム・アクセス・メモリ(RAM)等が含まれる。
そして、前記のプログラム又はその一部は、前記記録媒体に記録して保存や流通等させてもよい。また、通信によって、例えば、ローカル・エリア・ネットワーク(LAN)、メトロポリタン・エリア・ネットワーク(MAN)、ワイド・エリア・ネットワーク(WAN)、インターネット、イントラネット、エクストラネット等に用いられる有線ネットワーク、あるいは無線通信ネットワーク、さらにこれらの組み合わせ等の伝送媒体を用いて伝送させてもよく、また、搬送波に乗せて搬送させてもよい。
さらに、前記のプログラムは、他のプログラムの一部分であってもよく、あるいは別個のプログラムと共に記録媒体に記録されていてもよい。また、複数の記録媒体に分割して
記録されていてもよい。また、圧縮や暗号化など、復元可能であればどのような態様で記録されていてもよい。
1110…順方向経路情報算出モジュール
1120…経路選択モジュール
1130…逆方向経路情報算出モジュール
1210…順方向経路算出モジュール
1220…逆方向経路終点算出モジュール
1310…順方向経路算出モジュール
1320…経路選択モジュール
1330…逆方向経路始点終点表算出モジュール
1410…順方向経路始点終点表算出モジュール
1420…始点選択モジュール
1430…逆方向経路始点終点表算出モジュール
1440…順方向経路作成モジュール
1510…順方向経路算出モジュール
1520…逐次経路選択モジュール
1530…逆方向経路終点算出モジュール
1610…順方向経路終点算出モジュール
1620…逐次始点選択モジュール
1630…逆方向経路終点算出モジュール
1640…順方向経路算出モジュール
1710…画像分離モジュール
1720…経路抽出モジュール
1810…画像分離モジュール
1820…画像分離モジュール
1830…経路抽出モジュール
1910…画像分離モジュール
1920…経路判定モジュール
1930…経路抽出モジュール
2010…画像分離モジュール
2020…画像分離モジュール
2030…経路判定モジュール
2040…経路抽出モジュール
3110…画像受付モジュール
3120…分離経路算出モジュール
3130…画像分離モジュール
3210…画像受付モジュール
3220…水平方向分離経路算出モジュール
3230…垂直方向分離経路算出モジュール
3240…経路特徴量算出モジュール
3250…分離方向判別モジュール
3435…分離経路記憶モジュール
3460…画像分離モジュール

Claims (4)

  1. 少なくとも文字画像を含む画像を受け付ける受付手段と、
    前記受付手段によって受け付けられた画像に対して、該画像内の文字画像を分離する線分である分離経路を算出する経路算出手段と、
    前記経路算出手段によって算出された分離経路により、前記受付手段によって受け付けられた画像を複数の文字画像へ分離する分離手段を具備し、
    前記経路算出手段は、該画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素の輝度値の累積値が予め定められた条件を満たす分離経路を算出し、
    前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙の幅が予め定められた条件を満たす場合に、該間隙にある画素の輝度値によらず、該隣り合う分離経路は等価であると判断し、結合すること、
    又は、
    前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙にある画素の輝度値の累積値が予め定められた条件を満たす場合に、該隣り合う分離経路は等価であると判断し、結合する
    ことを特徴とする画像処理装置。
  2. 前記経路算出手段は、複数方向の分離経路を算出し、
    前記経路算出手段によって算出された複数方向の分離経路の特徴量を算出する特徴量算出手段と、
    前記特徴量算出手段によって算出された特徴量に基づいて、画像の分離方向及び文字画像の状態を判別し、該判別の結果によって前記複数方向の分離経路のうちの分離経路を選択する選択手段
    を具備し、
    前記分離手段は、前記選択手段によって選択された分離経路により、前記受付手段によって受け付けられた画像を複数の部分画像へ分離する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記経路算出手段は、該画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素の輝度値と経路の移動に基づく重み係数との積の累積値が予め定められた条件を満たす分離経路を算出する
    ことを特徴とする請求項1又は2に記載の画像処理装置。
  4. コンピュータを、
    少なくとも文字画像を含む画像を受け付ける受付手段と、
    前記受付手段によって受け付けられた画像に対して、該画像内の文字画像を分離する線分である分離経路を算出する経路算出手段と、
    前記経路算出手段によって算出された分離経路により、前記受付手段によって受け付けられた画像を複数の文字画像へ分離する分離手段として機能させ、
    前記経路算出手段は、該画像内の文字画像の一部を含む予め定められた範囲内において、経路上にある画素の輝度値の累積値が予め定められた条件を満たす分離経路を算出し、
    前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙の幅が予め定められた条件を満たす場合に、該間隙にある画素の輝度値によらず、該隣り合う分離経路は等価であると判断し、結合すること、
    又は、
    前記経路算出手段は、分離経路の算出において、隣り合う分離経路どうしの間隙にある画素の輝度値の累積値が予め定められた条件を満たす場合に、該隣り合う分離経路は等価であると判断し、結合する
    ことを特徴とする画像処理プログラム。
JP2010174515A 2010-08-03 2010-08-03 画像処理装置及び画像処理プログラム Active JP5672828B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010174515A JP5672828B2 (ja) 2010-08-03 2010-08-03 画像処理装置及び画像処理プログラム
US13/029,635 US8787676B2 (en) 2010-08-03 2011-02-17 Image processing apparatus, computer readable medium storing program, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010174515A JP5672828B2 (ja) 2010-08-03 2010-08-03 画像処理装置及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2012037926A JP2012037926A (ja) 2012-02-23
JP5672828B2 true JP5672828B2 (ja) 2015-02-18

Family

ID=45556210

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010174515A Active JP5672828B2 (ja) 2010-08-03 2010-08-03 画像処理装置及び画像処理プログラム

Country Status (2)

Country Link
US (1) US8787676B2 (ja)
JP (1) JP5672828B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5636691B2 (ja) * 2010-02-26 2014-12-10 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
US8799329B2 (en) * 2012-06-13 2014-08-05 Microsoft Corporation Asynchronously flattening graphs in relational stores
JP6003705B2 (ja) * 2013-02-14 2016-10-05 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
JP6474504B1 (ja) * 2018-01-23 2019-02-27 株式会社野村総合研究所 手書文字認識システム
US10685261B2 (en) * 2018-06-11 2020-06-16 GM Global Technology Operations LLC Active segmention of scanned images based on deep reinforcement learning for OCR applications

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58106665A (ja) 1981-12-18 1983-06-25 Ricoh Co Ltd 文字行切出し方法
JPH03233786A (ja) 1990-02-09 1991-10-17 Oki Electric Ind Co Ltd 画像分割処理装置
JP2899383B2 (ja) * 1990-08-06 1999-06-02 沖電気工業株式会社 文字切出し装置
JP2957729B2 (ja) 1991-04-09 1999-10-06 沖電気工業株式会社 行方向判定装置
JP3090342B2 (ja) * 1991-05-30 2000-09-18 株式会社東芝 文字列方向判別装置
JP3095470B2 (ja) 1991-09-13 2000-10-03 松下電器産業株式会社 文字認識装置
CA2077970C (en) * 1991-11-19 1999-02-23 Daniel P. Huttenlocher Optical word recognition by examination of word shape
US5321770A (en) * 1991-11-19 1994-06-14 Xerox Corporation Method for determining boundaries of words in text
US5267326A (en) * 1992-03-31 1993-11-30 Eastman Kodak Company Bitmap image segmentation using a charge model for pixels
JP3852218B2 (ja) 1998-09-10 2006-11-29 富士ゼロックス株式会社 画像処理方法および画像処理装置
US7283669B2 (en) * 2003-01-29 2007-10-16 Lockheed Martin Corporation Fine segmentation refinement for an optical character recognition system
JP2006155126A (ja) * 2004-11-29 2006-06-15 Mitsubishi Heavy Ind Ltd 車両番号認識装置

Also Published As

Publication number Publication date
US8787676B2 (en) 2014-07-22
US20120033887A1 (en) 2012-02-09
JP2012037926A (ja) 2012-02-23

Similar Documents

Publication Publication Date Title
US8045800B2 (en) Active segmentation for groups of images
JP4727732B2 (ja) 車両番号認識装置
US8300942B2 (en) Area extraction program, character recognition program, and character recognition device
JP5176763B2 (ja) 低品質文字の識別方法及び装置
JP5672828B2 (ja) 画像処理装置及び画像処理プログラム
US10740899B2 (en) Image processing apparatus for identifying region within image, information processing method, and storage medium
WO2014131339A1 (zh) 字符识别方法和字符识别装置
US9280725B2 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
CN110717470A (zh) 一种场景识别方法、装置、计算机设备和存储介质
RU2581786C1 (ru) Определение преобразований изображения для повышения качества оптического распознавания символов
CN103093185B (zh) 字符识别装置、图像处理装置及其方法
CN113420669B (zh) 基于多尺度训练和级联检测的文档版面分析方法和系统
KR20170087817A (ko) 얼굴 검출 방법 및 장치
JP5577948B2 (ja) 画像処理装置及び画像処理プログラム
JP5942361B2 (ja) 画像処理装置及び画像処理プログラム
US8805076B2 (en) Image processing apparatus, image processing method and computer readable medium
JP6303671B2 (ja) 画像処理装置及び画像処理プログラム
US9811726B2 (en) Chinese, Japanese, or Korean language detection
JP5636691B2 (ja) 画像処理装置及び画像処理プログラム
JP2017084006A (ja) 画像処理装置およびその方法
JP5724341B2 (ja) 画像処理装置及び画像処理プログラム
Nhat et al. Adaptive line fitting for staff detection in handwritten music score images
JP4882929B2 (ja) 画像処理装置及び画像処理プログラム
JP5821648B2 (ja) 情報処理装置及び情報処理プログラム
JP2016009235A (ja) 情報処理装置及び情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130724

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140806

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141215

R150 Certificate of patent or registration of utility model

Ref document number: 5672828

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350