JP3608965B2 - 自動オーサリング装置および記録媒体 - Google Patents
自動オーサリング装置および記録媒体 Download PDFInfo
- Publication number
- JP3608965B2 JP3608965B2 JP36033298A JP36033298A JP3608965B2 JP 3608965 B2 JP3608965 B2 JP 3608965B2 JP 36033298 A JP36033298 A JP 36033298A JP 36033298 A JP36033298 A JP 36033298A JP 3608965 B2 JP3608965 B2 JP 3608965B2
- Authority
- JP
- Japan
- Prior art keywords
- page
- character string
- character
- distance
- book
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Character Discrimination (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
【発明の属する技術分野】
この発明は、画像ベース電子書籍の目次や索引から参照ページへのリンク編集等を自動的に実行できる自動オーサリング装置に関する。
【0002】
【従来の技術】
近年、(株)ソニーの「電子ブック」や、ボイジャー(Voyager)社の「電子書籍(ExpandBook)」等で代表されるような電子書籍の提案が活発化している。しかしながら、上記電子書籍はテキストベースの電子書籍であるために、(1)電子化されていない既存の紙書籍のコンテンツ化にはOCR(光学式文字読み取り装置)等を用いてテキストデータに変換しなければならず、コンテンツ化には長時間を要する。(2)漫画や写真雑誌等のテキスト以外のデータが大部分を占める書籍はコンテンツし難く、コンテンツの種類が一般的な読み物系よりも辞書系(参照系)へ偏り勝ちである。
【0003】
したがって、既存のテキストベース電子書籍のタイトル数は、数百オーダーと少なく、且つ、内容が辞書系に偏っており、その普及率は紙書籍の数%にも達していないのが現状である。
【0004】
ところが、最近では、上述のようなテキストベース電子書籍の欠点を無くすものとして画像ベースの電子書籍が出現している。この例としては、(株)小学館の「漫画ROM(リード・オンリ・メモリ)」等が上げられる。
【0005】
上記画像ベース電子書籍は、▲1▼ 基本的には既存の紙書籍をスキャニングするだけの単純作業でコンテンツ作業が行え、短期間に大量のコンテンツ供給が可能となる。▲2▼ テキストベースの書籍では不可能であった漫画や写真雑誌等のコンテンツ供給が可能となる。▲3▼ 外字や異体字や古文書等のように、文字コード体系に合っていない文字が存在しても容易に取り込める。▲4▼ 言語(文字コード)に依存しないため海外普及が容易である。等の利点を有し、次世代の電子書籍の形態として非常に有望なものと考えられている。
【0006】
また、上述のような電子化コンテンツを利用する技術として、ハイパーテキストに代表されるリンク機能(情報と情報とを結合して関連情報間で経路を作成する機能)がある。このリンク機能の概念を図24に示す。図24においては、文字列や図形や画像等でなるオブジェクトから他のオブジェクトへのリンクは破線矢印で示している。また、上記オブジェクトからページへのリンクは実線矢印で示されている(但し、コンテンツにはページの概念はない)。尚、上記ページは各番号で示されている。
【0007】
図24においては、ページ1における第1行目に存在するオブジェクト(文字列)からは、ページ2にリンクされている。また、ページ1における第4行目に存在するオブジェクトからは、ページ5における第5行目に存在するオブジェクトにリンクされている。また、ページ1における最終行に存在するオブジェクトからは、ページ4にリンクされている。そして、上記リンク機能とは、ビューア等において、ページ1におけるリンクが張られているオブジェクトをマウス等によって指定することによって、リンク先のページやオブジェクトへジャンプする機能である。
【0008】
このようなリンク機能は、既存の紙メディアでは不可能な機能であり、電子化コンテンツの大きな魅力である。その反面、リンク情報を付加する編集(リンク編集)を含む電子書籍の編集(以下、オーサリングと言う)の際に、上記リンク編集作業を行う必要がある。したがって、このようなリンク編集を効率的に行えることが、オーサリング装置には重要な要素となる。
【0009】
従来より、上記リンク編集を自動的に行うものとして、特開平6−223065号公報「電子ドキュメントにおける自動リンク情報作成方法」がある。この自動リンク情報作成方法においては、テキストベースの電子ドキュメントからリンク対象となるキーワードを抽出し、文書構成を判定して、これらを基に目次と本文とのリンク付けを自動的に行うものである。
【0010】
以上のことにより、種々の利点を有して次世代の電子書籍の形態として非常に有望な上記画像ベース電子書籍に、特開平6−223065号公報に開示された自動リンク情報作成方法を適用することによって、漫画や写真雑誌等のテキスト以外の電子コンテンツのハイパーテキスト化が可能になるのである。
【0011】
【発明が解決しようとする課題】
しかしながら、上記従来の特開平6−223065号公報に開示された自動リンク情報作成方法は、テキスト(文字コードデータ)を対象としているために、画像ベース電子書籍に適用する場合には以下のような問題がある。
【0012】
上述のように、上記従来の自動リンク情報作成方法はテキストを対象としている。そこで、画像ベース電子書籍に適用する場合には、OCRを利用して画像をテキストに変換する手法が考えられる。ところが、現状のOCRでは、100%の正解結果を得ることは困難であり、認識結果には誤認識文字(OCRが読み取り間違えた文字)が含まれる。現状の高性能日本語OCRでも認識正解率は98%程度であり、認識結果に誤認識文字が2%程度は含まれる。したがって、OCRを利用して画像をテキストに変換した画像ベース電子書籍に上記従来の自動リンク情報作成方法を適用する場合には、上記誤認識によって、総ての文字が正しい「完全テキスト」を前提とした上記従来の自動リンク情報作成方法では誤動作が発生するという問題がある。以下、この誤動作に付いて詳細に説明する。
【0013】
上記特開平6−223065号公報によれば、上記従来の自動リンク情報作成方法では、文字列「CONTENTS」の有無によって目次ページを判定し、例えばキー文字列「SYSTEM OUTLINE」によって目次ページと本文ページとのリンク付けを行っている。したがって、上記OCRによってテキストに変換する際に、上記文字列「CONTENTS」の文字「O(オー)」が「0(ゼロ)」と誤認識された場合には、目次ページを判定できないことになる。同様に、目次ページに在るキー文字列「SYSTEM OUTLINE」と本文ページに在るキー文字列「SYSTEM OUTLINE」との何れか一方でも誤認識されれば、リンク付けができないことになる。ページ数「1」を英小文字エル「l」と誤認識した場合も同様である。
【0014】
尚、上述のような誤動作を解決する方法として、上記OCRの認識結果をオペレータが修正して上記完全テキストを得る方法も考えられる。ところが、その場合には、本来は不用である上記完全テキストを作成する処理が必要となる。したがって、上記解決方法は、上記オーサリング作業の軽減化のために行う自動リンク編集を行うことを考えると、本末転倒な解決方法であるといえる。
【0015】
そこで、この発明の目的は、画像ベース電子書籍に対して自動的にリンク編集を行うことができる自動オーサリング装置を提供することにある。
【0016】
上記目的を達成するため、請求項1に係る発明は、画像ベース電子書籍を自動的にオーサリングする自動オーサリング装置であって、書籍の各ページの画像を入力する画像入力手段と、文字認識時の誤認識傾向を距離値に変換して予め作成した距離テーブルと、上記距離テーブルを用いて2文字列間の距離を計算する距離計算手段と、上記画像入力手段から取り込まれた画像データに対して領域分割を行って、文字領域,写真領域,図形領域を含む領域を抽出する領域分割手段と、上記領域分割手段によって抽出された文字領域の画像データに基づいて、文字認識を行う文字認識手段と、文字列の集合に対して、上記距離計算手段による2文字列間の距離の算出結果を用いて複数のクラスタに分割し、各クラスタを代表する代表文字列を抽出するクラスタリング手段と、上記書籍全ページのヘッダまたはフッターの何れか一方の文字列の集合に対する上記クラスタリング結果を用いて、各クラスタに属する文字列に係るページの境界を当該書籍の区切りとすると共に、各クラスタの代表文字列を上記区切り間の代表タイトル文字列として書籍構造を抽出する書籍構造抽出手段を備えて、上記画像入力手段から取り込まれた書籍の画像データに基づいて、当該書籍の書籍構造を抽出することを特徴とする自動オーサリング装置を提供する。
【0017】
上記構成によれば、書籍構造抽出手段によって、「書籍の「章」や「節」の代表タイトル文字列は該当する「章」や「節」における「ヘッダ」あるいは「フッター」に記載されていることが多い」ことを利用して、書籍全ページのヘッダあるいはフッターの何れか一方の文字列の集合に対してクラスタリング手段によるクラスタリングが行われて、当該書籍の章や節等の区切りと上記区切り間の代表タイトル文字列とでなる書籍構造が自動的に抽出される。その際に、上記文字列の分類にクラスタリングを用いることによって、上記ヘッダあるいはフッターの文字認識結果における誤認識が吸収される。
【0018】
また、請求項2に係る発明は、画像ベース電子書籍を自動的にオーサリングする自動オーサリング装置であって、書籍の各ページの画像を入力する画像入力手段と、文字認識時の誤認識傾向を距離値に変換して予め作成した距離テーブルと、上記距離テーブルを用いて2文字列間の距離を計算する距離計算手段と、上記画像入力手段から取り込まれた画像データに対して領域分割を行って、文字領域,写真領域,図形領域を含む領域を抽出する領域分割手段と、上記領域分割手段によって抽出された文字領域の画像データに基づいて、文字認識を行う文字認識手段と、文字列の集合に対して、上記距離計算手段による2文字列間の距離の算出結果を用いて複数のクラスタに分割し、各クラスタを代表する代表文字列を抽出するクラスタリング手段と、上記書籍全ページのヘッダあるいはフッターの何れか一方の文字列の集合に対する上記クラスタリング結果を用いて、各クラスタに属する文字列に係るページの境界を当該書籍の区切りとすると共に、各クラスタの代表文字列を上記区切り間の代表タイトル文字列として書籍構造を抽出する書籍構造抽出手段と、上記各ページ毎の文字認識結果に基づいて、上記距離計算手段による文字列間距離およびキーワードを用いて、予め設定されたルールに従って、目次ページまたは索引ページの判定を行うリンク元ページ判定手段と、上記目次ページまたは索引ページの文字認識結果に基づいて、予め設定されたルールに従って、リンク元オブジェクトを項目文字列部とこの項目文字列が記載されているページのページ番号文字列部とに分けて抽出するリンク元オブジェクト抽出手段と、上記目次ページにおける上記各リンク元オブジェクトの項目文字列と上記書籍の区切り間の代表タイトル文字列とに間する上記距離算出手段による距離算出結果に基づいて、上記リンク元オブジェクトに対応する上記書籍の区切りを判定するリンク先クラスタ判定手段と、上記各リンク元オブジェクトのページ番号文字列およびこのページ番号文字列が上記距離テーブルを参照して置換された誤認識し易い数字と、当該リンク元オブジェクトに対応する上記書籍の区切りの開始ページ番号との比較結果に基づいて、目次ページに対するリンク付けを行う目次ページリンク決定手段を備えて、上記画像入力手段から取り込まれた書籍の画像データに基づいて、各目次の項目から参照ページへのリンク付けを行うことを特徴とする自動オーサリング装置を提供する。
【0019】
上記構成によれば、リンク先クラスタ判定手段によってリンク元オブジェクトに対応する上記書籍の区切りが判定される。その際に、上記リンク元オブジェクトの項目文字列と上記書籍の区切り間の代表タイトル文字列との距離を用いることによって、上記項目文字列の誤認識が吸収される。さらに、目次ページリンク決定手段によって、上記各リンク元オブジェクトのページ番号文字列と上記対応する書籍の区切りの開始ページ番号との比較結果に基づいて上記目次ページに対するリンク付けが自動的に行われる。その際に、上記ページ番号文字列と開始ページ番号とが一致しない場合には上記ページ番号文字列を誤認識し易い数字に置換して上記比較を繰り返すことによって、上記ページ番号文字列の誤認識が吸収される。
【0020】
また、請求項3に係る発明は、画像ベース電子書籍を自動的にオーサリングする自動オーサリング装置であって、書籍の各ページの画像を入力する画像入力手段と、文字認識時の誤認識傾向を距離値に変換して予め作成した距離テーブルと、上記距離テーブルを用いて2文字列間の距離を計算する距離計算手段と、上記画像入力手段から取り込まれた画像データに対して領域分割を行って、文字領域,写真領域,図形領域を含む領域を抽出する領域分割手段と、上記領域分割手段によって抽出された文字領域の画像データに基づいて、文字認識を行う文字認識手段と、上記各ページ毎の文字認識結果に基づいて、上記距離計算手段による文字列間距離およびキーワードを用いて、予め設定されたルールに従って、目次ページまたは索引ページの判定を行うリンク元ページ判定手段と、上記目次ページまたは索引ページの文字認識結果に基づいて、予め設定されたルールに従って、リンク元オブジェクトを項目文字列部とこの項目文字列が記載されているページのページ番号文字列部とに分けて抽出するリンク元オブジェクト抽出手段と、上記索引ページにおける上記各リンク元オブジェクトの項目文字列を検索元文字列とし、上記項目文字列に対応するページ番号文字列およびこのページ番号文字列が上記距離テーブルを参照して置換された誤認識し易い数字をリンク先の注目ページ番号とし、上記注目ページ番号のページの文字認識結果から上記検索元文字列と同じ文字数の文字列を順次切り出して検索先文字列とし、上記検索元文字列と検索先文字列との距離を上記距離計算手段によって算出し、この算出結果に基づいて索引ページに対するリンク付けを行う索引ページリンク決定手段を備えて、上記画像入力手段から取り込まれた書籍の画像データに基づいて、索引の各項目から参照ページへのリンク付けを自動的に行うことを特徴とする自動オーサリング装置を提供する。
【0021】
上記構成によれば、索引ページリンク決定手段によって、上記各リンク元オブジェクトの項目文字列をこの項目文字列に対応するページ番号のページの文字認識結果中から検索し、この検索結果に基づいて索引ページに対するリンク付けが自動的に行われる。その際に、上記文字認識結果から切り出した文字列と項目文字列との距離を用いることによって、上記項目文字列の誤認識が吸収される。さらに、上記項目文字列が検索されない場合には上記ページ番号文字列を誤認識し易い数字に置換して上記検索を繰り返すことによって、上記ページ番号文字列の誤認識が吸収される。
【0022】
また、請求項4に係る発明は、請求項2に記載の自動オーサリング装置において、上記リンク元オブジェクト抽出手段によって抽出された上記索引ページにおける上記各リンク元オブジェクトの項目文字列を検索元文字列とし、上記項目文字列に対応するページ番号文字列およびこのページ番号文字列が上記距離テーブルを参照して置換された誤認識し易い数字をリンク先の注目ページ番号とし、上記注目ページ番号のページの文字認識結果から上記検索元文字列と同じ文字数の文字列を順次切り出して検索先文字列とし、上記検索元文字列と検索先文字列との距離を上記距離計算手段によって算出し、この算出結果に基づいて索引ページに対するリンク付けを行う索引ページリンク決定手段を備えて、上記画像入力手段から取り込まれた書籍の画像データに基づいて、目次あるいは索引の各項目から参照ページへのリンク付けを自動的に行うことを特徴とする自動オーサリング装置を提供する。
【0023】
上記構成によれば、請求項2に係る発明の場合と同様に、リンク先クラスタ判定手段によって上記リンク元オブジェクトに対応する上記書籍の区切りが判定される際に、上記項目文字列と上記代表タイトル文字列との距離を用いることによって、上記項目文字列の誤認識が吸収される。また、目次ページリンク決定手段によって目次ページに対するリンク付けが自動的に行われる際に、上記ページ番号文字列を誤認識し易い数字に置換することによって、上記ページ番号文字列の誤認識が吸収される。
【0024】
さらに、索引ページリンク決定手段によって索引ページに対するリンク付けが自動的に行われる際に、上記文字認識結果から切り出された文字列と上記項目文字列との距離を用いることによって、上記項目文字列の誤認識が吸収される。また、上記ページ番号文字列を誤認識し易い数字に置換することによって、上記ページ番号文字列の誤認識が吸収される。
【0025】
また、請求項5に係る発明は、請求項2乃至請求項4の何れか一つに記載の自動オーサリング装置において、上記リンク元オブジェクト抽出手段は、上記リンク元ページ判定手段によって目次ページまたは索引ページであると判定されたページの文字認識結果に基づいて、各リンク元オブジェクト毎に、上記リンク元オブジェクトを構成する項目文字列の配列方向に直交する方向への文字長さのヒストグラムを作成するヒストグラム作成手段と、上記ヒストグラムに対して判別分析によって二値化閾値を計算する二値化閾値算出手段と、上記二値化閾値以下の長さを有する文字連なりを上記リンク元オブジェクトにおける項目文字列とページ番号文字列とを分離するセパレータの候補として抽出し、この抽出されたセパレータ候補中から上記方向への文字長さの分散が最小となる連続区間を上記セパレータとして抽出するセパレータ抽出手段と、
上記リンク元オブジェクトにおける上記抽出されたセパレータの一側を上記項目文字列とする一方、他側を上記ページ番号文字列として分離して抽出するオブジェクト抽出手段を有していることを特徴とする自動オーサリング装置を提供する。
【0026】
上記構成によれば、上記リンク元オブジェクト抽出手段によって、「目次や索引では「項目文字列」と「その項目が記載されているページ番号」とが「…」,「−」あるいは「空白」等のセパレータを介して同じ列や行を構成している」ことを利用して、目次ページまたは索引ページにおける上記項目文字列の配列方向に直交する方向への文字長さのヒストグラムと二値化閾値とに基づいて上記セパレータが抽出される。そして、このセパレータに基づいて、上記項目文字列とページ番号文字列とが自動的に分離されて抽出される。
【0027】
また、請求項6に係る発明は、請求項1、請求項2、請求項3、請求項4又は請求項5に記載の自動オーサリング装置における各手段の機能をコンピュータに実行させるための自動オーサリングプログラムを記録したコンピュータ読み取り可能な記録媒体を提供する。
【0028】
上記構成によれば、請求項4に係る発明の場合と同様に、上記ヘッダやフッターの文字列,リンク元オブジェクトの項目文字列およびページ番号文字列の誤認識を吸収した目次ページあるいは索引ページに対するリンク付けが自動的に行われる。
【0029】
【発明の実施の形態】
以下、この発明を図示の実施の形態により詳細に説明する。図1は、本実施の形態の自動オーサリング装置におけるブロック図である。主制御部1は、本自動オーサリング装置の動作を制御し、後に詳述するような自動オーサリング処理動作を実行する。
【0030】
入力制御部2は、キーボード3やマウス4から操作者によって入力された入力信号をデータバス5のデータ形式に変換し、データバス5を介して主制御部1に送出する。画像入力部6は、スキャナ7で読み取られた画像データをデータバス5のデータ形式に変換し、データバス5を介してメモリ8のページ画像部28に送出する。また、外部記憶装置制御部9は、外部記憶装置10の書籍画像ファイル11に格納されている書籍の画像データをデータバス5のデータ形式に変換して、データバス5を介してメモリ8のページ画像部28に送出する。尚、書籍コンテンツファイル12には、自動リンク付けされた際のリンク情報が格納されている。CRT(陰極線管)制御部13は、ビデオRAM(ランダム・アクセス・メモリ)15に格納されている表示データをデータバス5を介して読み出し、CRTのデータ形式に変換してCRT14に表示させる。
【0031】
距離テーブル16は、文字認識の誤認識傾向を距離値に変換して予め作成された参照専用のテーブルであり、参照データはデータバス5を介して距離計算部17等へ送出される。尚、距離テーブル16については、後に詳細に説明する。距離計算部17は、2つの文字列間の距離(類似度)を、距離テーブル16からの参照データを用いて動的計画法(DP)マッチングによって演算し、演算結果を内部メモリ等に格納する。尚、距離計算部17についても、後に詳細に説明する。
【0032】
領域分割部18は、上記メモリ8のページ画像部28に格納された画像データを参照して、文字領域(縦書き,横書き,ヘッダ,フッター領域)、写真画像領域、図形画像領域、及び、線分領域を抽出し、メモリ8の領域分割結果部29に格納する。尚、上記領域分割は、例えば特開平4−105486号公報や特開平4−114560号公報等に開示された周知の方法によって行う。
【0033】
図2は、上記メモリ8のページ画像部28に格納された目次ページの画像に対して、上記領域分割部18によって領域分割を行った結果の概念を示す。領域41a,41bは、ヘッダ横書き文字領域として抽出されている。また、領域42,43は、横書き文字領域として抽出されている。また、領域44,45は、縦書き文字領域として抽出されている。また、領域46は、フッター横書き文字領域として抽出されている。尚、実際には、領域41a,41bの上側に存在する横線部や領域45の下部に存在する電話機マーク等も、夫々線分領域や図形領域として抽出されるのであるが、本実施の形態は文字領域のみをリンク付けの対象とするのでこれらの抽出結果は省略している。
【0034】
図3は、上記メモリ8のページ画像部28に格納された索引ページの画像に対して、領域分割部18によって領域分割を行った結果の概念を示す。領域51はヘッダ横書き文字領域として、領域52,53は横書き文字領域として、領域54はフッター横書き文字領域として抽出されている。
【0035】
文字認識部19は、上記メモリ8の領域分割結果部29に格納された文字領域情報を用いてページ画像部28に格納された画像データに対して、認識辞書20を参照して文字認識を行う。そして、得られた認識結果をメモリ8の認識結果部30に格納する。尚、上記文字認識は、例えば「確立モデルによる音声認識」(中川聖一著、電子情報通信学会、コロナ社、初版昭和63年)に記載されているような「部分空間法」や「複合類似度」等によって行う。その際には、認識辞書20には主成分分析によって求められた固有べクトル等が格納される。
【0036】
リンク元ページ判定部21は、上記メモリ8の認識結果部30に格納された認識結果と、距離計算部17によって演算された文字列間距離とに基づいて、予め設定されたキーワードおよびルールに従って、注目ページが目次や索引等のリンク元ページであるか否かを判断する。そして、判断結果を主制御部1に返す。リンク元オブジェクト抽出部22は、上記メモリ8の書籍構造結果部31に格納された書籍構造を参照して得られるリンク元ページを注目ページとし、メモリ8の認識結果部30に格納された注目ページに対応する認識結果を参照して、注目ページの各行の認識結果をオブジェクト文字列部とページ番号文字列部とに分けてリンク元オブジェクトとして抽出する。そして、抽出結果をメモリ8のオブジェクト部32に格納する。尚、ヒストグラムバッファ部34には、リンク元オブジェクト抽出中に作成された文字高さ(幅)のヒストグラムが格納される。
【0037】
クラスタリング部23は、上記メモリ8のクラスタリングメモリ部33に格納されている文字列集合に対して、距離計算部17に指令して、例えば上記「確立モデルによる音声認識」(中川聖一著、電子情報通信学会、コロナ社、初版昭和63年)に記載されているような「KBGアルゴリズム(基本的にはk−平均法と同じ)」等によってクラスタリングを行わせる。そして、各文字列に対するクラスタリング結果と各クラスタの代表文字列とをクラスタリングメモリ部33に格納する。
【0038】
書籍構造抽出部24は、上記メモリ8の領域分割結果部29および認識結果部30の内容を参照しながら、書籍全体における各ページのヘッダまたはフッターを抽出してクラスタリングを行う。そして、クラスタリングメモリ部33に格納された上記クラスタリングの結果に基づいて章や節等の書籍構造を抽出し、抽出結果を書籍構造結果部31に格納する。
【0039】
リンク先クラスタ判定部25は、上記距離計算部17に指令して、メモリ8のオブジェクト部32に格納されている各リンク元オブジェクトのオブジェクト文字列と、書籍構造結果部31に格納された各書籍構造の情報(章や節等)を代表する代表タイトル文字列との距離を算出させる。そして、リンク元のオブジェクト文字に対応するリンク先構造情報の先頭アドレスを求めて主制御部1に返す。
【0040】
目次ページリンク決定部26は、上記メモリ8のオブジェクト部32に格納されている当該リンク元オブジェクトのページ番号文字列の数字と、リンク先クラスタ判定部25によって求められた当該リンク元のオブジェクトに対応するリンク先の章や節の開始ページ番号との比較を、上記ページ番号文字列の数字を上記距離テーブル16に格納された数字の距離値を参照して誤認識し易い数字に置換しながら一致するまで行い、その比較結果に基づいて目次ページのリンク付けを自動的に行う。そして、リンク付け結果のリンク先ページ番号をメモリ8のオブジェクト部32に格納する。
【0041】
図4は、こうして目次ページのリンク元オブジェクト(図2に示す目次ページにおける文字列56「文字を入力する」)に自動的にリンク付けされた、リンク先ページの画像例である。
【0042】
索引ページリンク決定部27は、上記メモリ8のオブジェクト部32に格納されている当該リンク元オブジェクトのオブジェクト文字列を、検索元文字列とする。また、オブジェクト部32に格納されている当該リンク元オブジェクトのページ番号文字列を注目ページ番号とする。また、メモリ8の認識結果部30に格納されている上記注目ページ番号のページに関する認識結果から、順次上記検索元文字列と同じ文字数の文字列を切り出して検索先文字列とする。そして、上記ページ番号を上述のようにして誤認識し易い数字に置換しながら距離計算部17に指令して上記検索元文字列と検索先文字列との間の距離を算出させ、この距離が閾値以内であれば上記注目ページに検索先文字列が存在すると判定して、索引ページとのリンク付けを自動的に行う。そして、上記注目ページ番号をリンク先ページ番号としてメモリ8のオブジェクト部32に格納する。
【0043】
図5は、こうして索引ページのリンク元オブジェクト(図3に示す索引ページにおける文字列57「カタカナ」)に自動的にリンク付けされた、リンク先ページの画像例である。
【0044】
図6は、上記距離テーブル16の概念図である。この距離テーブル16は、上述したように、文字認識の誤認識傾向を基に予め作成しておく参照専用テーブルであり、その縦横のサイズが認識対象文字数(本実施の形態における認識対象文字数は4000であるとする)の二次元テーブルである。各行および各列は認識対象の各文字に対応しており、行及び列で決まる2文字間の距離値が要素値として格納されている。この距離値のデータサイズは1バイトであり、距離値は0〜255までの整数値を取る。図6(b)に、図6(a)における数字「0」行の数字「0」列から文字「R」列までの距離値の具体例を示す。図6(b)に関してのみ言えば、数字「0」に最も距離が近い文字は「O(距離=1)」であり、最も距離が遠い文字は「1(距離=255)」である。その他の文字の列についても夫々距離値が設定してあり、距離値が小さい文字ほど数字「0」に形状が類似しており、誤認識し易いことを示す。尚、この距離テーブル16は、予め、大量の認識評価実験の結果に基づいて作成しておく。
【0045】
図7は、上記距離計算部17の詳細なブロック図である。距離計算制御部61は、データバス5を介して送出されてくる第1文字列データを第1文字列バッファ62に格納する。同様に、第2文字列データを第2文字列バッファ63に格納する。そして、データバス5を介して主制御部1,クラスタリング部23,リンク先クラスタ判定部25あるいは索引ページリンク決定部27から送出されてくる距離計算命令に従って、DPマッチング部65に対して距離計算命令を送る。
【0046】
そうすると、上記DPマッチング部65は、上記第1文字列バッファ62および第2文字列バッファ63と、距離テーブル16(図1参照)とを参照し、下記の式(1)によって距離計算を行う。そして、得られた計算結果は距離バッファ64に格納される。
【数1】
【0047】
尚、上記DPマッチングとは、要素数が異なる2つのデータ間(本実施の形態の場合は2つの文字列間)の最適経路による距離を求める演算方式で、古くから音声認識やオンライン手書き文字認識に採用されており、例えば上記「確立モデルによる音声認識」(中川聖一著、電子情報通信学会、コロナ社、初版昭和63年)に記載されている。こうして、距離バッファ64に格納された計算結果は、データバス5および距離計算制御部61を介して、データバス5に接続された他のブロックから参照することができるのである。
【0048】
図8は、上記メモリ8のページ画像部28の詳細な構成概念図である。このページ画像部28は、ヘッダ部66と画像データ部67とで構成される。ヘッダ部66には、横画素数部68,縦画素数部69,データ長部(1画素当たり)70およびモノクロ/カラー部71が設けられている。そして、画像入力部6から又は外部記憶装置制御部9から画像データを書き込む場合には、1ページ当たりの画像のサイズやデータ長等の画像情報がヘッダ部66に格納される一方、画像データが画像データ部67に格納される。こうして、ページ画像部28に格納された画像情報および画像データは、データバス5に接続された他のブロックから参照することができるのである。
【0049】
図9は、上記メモリ8の領域分割結果部29の詳細な構成概念図である。この領域分割結果部29は、書籍1冊毎に複数の領域結果部74に分割されており、各領域結果部74には、先頭から順に一領域の分割結果が格納される。また、上記一つの領域結果部74は、その領域がどのような種類の領域であるかを示す領域フラグ部75と、ページ番号が格納されるページ番号部76と、当該ページ内での領域番号が格納される領域番号部77と、当該領域の矩形領域に間する開始X座標が格納される開始X座標部78と、上記矩形領域の開始Y座標が格納される開始Y座標部79と、上記矩形領域の終了X座標が格納される終了X座標部80と、上記矩形領域の終了Y座標が格納される終了Y座標部81で構成されている。尚、領域フラグ部75〜終了Y座標部81には、何れもバイナリデータが格納される。
【0050】
上記領域フラグ部75に格納されるバイナリデータの各ビットは夫々以下のような意味を有している。すなわち、下位ビットから順に、文字領域ビット(1:文字領域)、写真領域ビット(1:写真領域)、図形領域ビット(1:図形領域)、線分領域ビット(1:線分領域)、縦/横ビット(1:横、0:縦)、ヘッダ−フッタービット(1:ヘッダ、0:フッター)の順で構成されている。ここで、上記縦/横ビットは、当該領域が文字領域あるいは線分領域である場合にセットされ、文字領域である場合には縦書きか横書きかを示し、線分領域である場合には縦線か横線かを示す。
【0051】
こうして、上記領域分割結果部29に格納された領域分割結果は、データバス5に接続された他のブロックから参照することができるのである。
【0052】
図10は、上記メモリ8の認識結果部30の詳細な構成概念図である。この認識結果部30は、領域分割部18によって分割された1領域毎に、ヘッダ部85と認識結果部86で構成されている。ヘッダ部85は固定長であり、図10(a)に示すように、領域分割結果部29へのポインタ87と文字数部88とに分けられる。ここで、ポインタ87には、当該認識結果に係る認識領域を示す領域分割結果部29へのポインタであり、図9における複数の領域結果部74のうち該当する領域結果部74の先頭アドレスが上記ポインタとして格納される。このポインタによって、認識対象領域に関する図9に示す各種情報と認識結果とが対応付けられるのである。尚、文字数部88には、認識結果の文字数が格納される。
【0053】
また、上記認識結果部86には該当する領域の認識結果が格納され、そのサイズは可変長である。ここで、この認識結果のサイズは、ヘッダ部85の文字数部88を参照することによって分かる。認識結果部86は、図10(b)に示すように、ヘッダ部85の文字数部88に格納された文字数(図10(b)では「N」)分の文字認識結果が格納される結果部89を有する。1文字分の結果部89は、コード部91と、類似度部92と、開始X座標部93と、開始Y座標部94と、終了X座標部95と、終了Y座標部96で構成されている。そして、コード部91には、該当文字の認識結果コードが格納される。また、類似度部92には、上述した部分空間法や複合類似度法によって計算された類似度が格納される。また、開始X座標部93〜終了Y座標部96には、切り出し座標が格納される。尚、コード部91には、認識処理での行切り出し結果や空白抽出結果に基づいて、行末を示す改行コードや空白を示すスペースコードも格納される。そして、コード部91に上記改行コードやスペースコードが格納された場合には、類似度部92〜終了Y座標部96のデータは「0」クリアされる。
【0054】
図11は、上記メモリ8の書籍構造結果部31の詳細な構成概念図である。この書籍構造結果部31は、書籍1冊分が複数の構造情報部100に分割されており、各構造情報部100には先頭から順に構造情報が格納される。ここで、各構造情報部100のサイズは固定長である。また、一つの構造情報部100は、代表タイトル文字列部101と、文字数部102と、開始ページ番号部103と、終了ページ番号部104で構成されている。そして、代表タイトル文字列部101には、各ページのヘッダ文字列またはフッター文字列をクラスタリングすることによって求められた各クラスタの代表タイトルの文字列が格納される。また、文字数部102には、上記代表タイトル文字列の文字数が格納される。また、開始ページ番号部103には、上記何れかのクラスタで表される該当構造の開始ページ番号が格納される。また、終了ページ番号部104には、該当構造の終了ページ番号が格納される。
【0055】
図12は、上記メモリ8のオブジェクト部32の詳細な構成概念図である。このオブジェクト部32は、書籍1冊分が複数のオブジェクト格納部105に分割されており、各オブジェクト格納部105には、先頭から順にオブジェクト情報が格納される。ここで、各オブジェクト格納部105のサイズは固定長である。また、一つのオブジェクト格納部105は、オブジェクト文字列部106と、ページ番号文字列部107と、オブジェクト文字列文字数部108と、ページ番号文字列文字数部109と、リンク元ページ番号部110と、開始X座標部111と、開始Y座標部112と、終了X座標部113と、終了Y座標部114と、目次・索引フラグ部115と、リンク先ページ番号部116で構成されている。そして、オブジェクト文字列部106およびページ番号文字列部107には、リンク元オブジェクト抽出部22で抽出されたオブジェクト文字列とページ番号文字列とが格納される。また、オブジェクト文字列文字数部108およびページ番号文字列文字数部109には、上記オブジェクト文字列およびページ番号文字列の文字数が格納される。また、リンク元ページ番号部110には、該当オブジェクトが存在したページ番号(リンク元ページ番号)が格納される。また、開始X座標部111〜終了Y座標部114には、該当オブジェクト文字列の外接矩形座標が格納される。また、目次・索引フラグ部115には、該当オブジェクトが存在するページは目次ページであるか索引ページであるかが格納される。具体的には、目次ページである場合には「0(0x00)」が格納され、索引ページである場合には「1(0x01)」が格納される。また、リンク先ページ番号部116には、リンク元オブジェクト抽出部22によって各オブジェクトが抽出された段階では、初期値(0xff)が格納されている。そして、目次ページリンク決定部26や索引ページリンク決定部27によってリンク先ページ番号が決定された時点で、この決定されたリンク先ページ番号が格納される。
【0056】
図13は、上記メモリ8のクラスタリングメモリ部33の詳細な構成概念図である。このクラスタリングメモリ部33は、書籍1冊分が複数のデータ部121に分割されており、各データ部121には先頭から順にデータ(ヘッダ情報またはフッダー情報)が格納される。一つのデータ部121は、文字列部122と、文字列文字数部123と、ページ番号部124と、クラスタ番号部125と、クラスタ代表フラグ部126で構成されている。ここで、文字列部122〜ページ番号部124の値は書籍構造抽出部24によって設定され、クラスタ番号部125およびクラスタ代表フラグ部126にはクラスタリング部23でクラスタリングされた結果が格納される。
【0057】
上記構成の自動オーサリング装置は、以下のように動作する。図14は、上記主制御部1の制御の下に行われる自動オーサリング処理動作のフローチャートである。
【0058】
ステップS1で、書籍1冊分の画像データが入力されてメモリ8のページ画像部28に格納される。ここで、上記書籍が紙書籍である場合には、画像入力部6が制御されて、スキャナ7で読み取られた紙書籍の画像データがデータバス5を介してメモリ8のページ画像部28に送出されて格納される。また、上記書籍の画像データが外部記憶装置10に蓄積されている場合には、外部記憶装置制御部9が制御されて、外部記憶装置10の書籍画像ファイル11から読み出された所望の画像データがデータバス5を介してメモリ8のページ画像部28に送出されて格納される。
【0059】
ステップS2で、上記領域分割部18が制御されて、上記ステップS1においてページ画像部28に格納された画像データに対して領域分割処理が行われる。そして、図2や図3のように得られた領域分割結果の情報が、図9に示すようなフォーマットでメモリ8の領域分割結果部29に格納される。
【0060】
ステップS3で、上記文字認識部19が制御されて、上記ステップS2において領域分割されて領域分割結果部29に格納された領域分割結果を用いて文字認識処理が行われる。その場合の文字認識処理は、次のように行われる。すなわち、図9に示す領域分割結果部29の第1領域結果部74から順に領域フラグ部75を参照して文字領域の領域結果部74を探す。そして、文字領域の領域結果部74における開始X座標部78〜終了Y座標部81から領域座標を求め、この領域座標に該当する画像データをページ画像部28から読み出し、この文字領域の画像データに対して文字認識処理を行うのである。こうして得られた認識結果は、メモリ8の認識結果部30に格納される。
【0061】
以上のステップS1〜ステップS3までの処理は、以降の自動リンク付けを行うための前処理であり、1冊の書籍分総ての画像データに対して、各ページ画像毎に順次実行される。したがって、上記ステップS3が終了した時点では、メモリ8の領域分割結果部29および認識結果部30には、1冊の書籍分のデータが保持されることになる。
【0062】
ステップS4で、上記書籍構造抽出部24,クラスタリング部23および距離計算部17が制御されて、上記領域分割結果および文字認識結果に基づいて書籍構造が次のようにして抽出される。すなわち、メモリ8の領域分割結果部29および認識結果部30から、当該書籍1冊分の全ヘッダ領域または全フッター領域の認識結果文字列が抽出されて、クラスタリングメモリ部33に格納される。そして、この格納された全文字列を母集団としたクラスタリングが行われて、「章」や「節」等の単位に上記文字列を分類することによって書籍構造が抽出されるのである。こうして抽出された書籍構造の代表タイトル文字列や領域座標等の情報は、メモリ8の書籍構造結果部31に格納される。
【0063】
ステップS5で、上記リンク元ページ判定部21が制御されて、次のようにしてリンク元ページ判定が行われる。すなわち、メモリ8の認識結果部30に格納されているページ画像毎の認識結果を入力データとし、予め設定されたキーワードとルールとに基づいて、注目ページが、目次ページ,索引ページおよびそれ以外のページの何れに属するかが判定されるのである。
【0064】
ステップS6で、上記リンク元オブジェクト抽出部22が制御されて、上記注目ページが目次ページあるいは索引ページである場合(つまりリンク元ページである場合)には、次のようにしてリンク元オブジェクト抽出処理が行われる。すなわち、メモリ8の認識結果部30から注目ページの認識結果が読み出される。そして、各行毎に「項目(オブジェクト文字列)」と「ページ番号」とに分離して上記「項目」の切り出し座標およびリンク元のページ番号文字列等と共に抽出され、メモリ8のオブジェクト部32に格納される。
【0065】
ステップS7で、上記目次ページリンク決定部26,索引ページリンク決定部27,リンク先クラスタ判定部25および距離計算部17が制御されて、次のようにして上記ステップS6において抽出されたオブジェクトとリンク先ページとのリンク付けが行われる。すなわち、注目オブジェクトが上記目次ページに在る場合には、書籍構造結果部31の各代表タイトル文字列とオブジェクト部32における注目オブジェクトのオブジェクト文字列との距離計算が行われ、計算結果に基づいてリンク先の「章」や「節」の構造情報(リンク先構造情報)が得られる。そして、オブジェクト部32における注目オブジェクトのページ番号文字列部107と、距離テーブル16と、書籍構造結果部31のリンク先の構造情報部100における開始ページ番号部103とに基づいて、後に詳述するようにして、リンク元ページやリンク先ページのオブジェクトの誤認識を吸収した自動リンク付けが行われる。
【0066】
これに対して、注目オブジェクトが上記索引ページに在る場合には、オブジェクト部32における注目オブジェクトのページ番号文字列部107からページ番号を読み出して注目ページとし、オブジェクト部32における注目ページの認識結果中に注目オブジェクトが存在するか否かを、認識結果部30および領域分割結果部29の内容と距離計算部17の計算結果とに基づいて誤認識を吸収して判定する。そして、存在する場合には索引ページ注目オブジェクトと上記注目ページであるリンク先ページとがリンク付けされる。
【0067】
こうして上記目次ページまたは索引ページの注目オブジェクトにリンク付けられたリンク先ページのページ番号が、オブジェクト部32のリンク先ページ番号部116に格納される。
【0068】
ステップS8で、上記外部記憶装置制御部9が制御されて、メモリ8のオブジェクト部32に格納されているリンク情報(リンク元ページ番号やオブジェクト切り出し座標やリンク先ページ番号等)が読み出され、書籍コンテンツファイル12のリンク情報形式に変換されて書籍コンテンツファイル12に格納される。こうして結果出力が行われた後、自動オーサリング処理動作を終了する。
【0069】
以下、この発明の特徴である書籍構造抽出,リンク元ページ判定,リン元オブジェクト抽出および目次ページまたは索引ページの自動リンクに付いて、さらに詳細に説明する。
【0070】
図15は、図14に示す自動オーサリング処理動作のフローチャート中の上記ステップS4において実行される書籍構造抽出サブルーチンのフローチャートを示す。図14における上記ステップS3において1冊の書籍分総ての画像データに対する文字認識処理が終了すると書籍構造抽出サブルーチンがスタートする。
【0071】
ここで、上記書籍構造抽出処理動作の説明に先立って、クラスタリングによる書籍の構造抽出の概念について説明する。図16は、ある書籍の全ページのヘッダ部における正解文字列とこの正解文字列の文字認識結果と誤認識結果との一例を示す。
【0072】
現在の文字認識技術では、認識手法や言語処理方式の発展に伴って以前に比べてその認識率も速度も飛躍的に向上しているものの、図16に示すように誤認識は発生する。特に、形態が類似している類似文字において誤認識が著しい。尚、図16に示す例の場合には、正解文字列と文字認識結果との文字数に違いは生じていないが、実際に大量の文字の文字認識を行うと、幾つかの個所では正解文字列と文字認識結果とに文字数の違いが生ずる。これは、認識対象文字画像データに含まれる接触文字や分離文字に対する切り出し処理のエラーに起因する。そこで、本実施の形態においては、上述の誤認識は今後も発生し続ける−文字認識では100%の認識率はありえない−と想定し、これらの誤認識を吸収しつつ自動リンク付けを行うのである。
【0073】
本実施の形態において用いるDPマッチングは、上述したように、要素数の異なる2つのデータ間(文字数の異なる2つの文字列間)の距離を演算するものである。そして、本実施の形態において用いる2文字間の距離テーブル16は、採用する認識手法から見た誤認識のし易さ(特徴空間での文字の類似性)を反映したテーブルである。したがって、上記式(1)によって求められる2文字列間距離は、当該2文字列間における文字列長の差異を吸収した最適な2文字列間の距離となるのである。そして、2文字列間の距離が算出できれば、パターン認識の分野でよく行われているクラスタリング手法(例えば、LBGアルゴリズム,k−平均法あるいはWard方等)が適用可能となるのである。
【0074】
図17は、図16の文字認識結果に対するクラスタリング結果を二次元平面130上に示した図である。クラスタ131は文字列「文字を入力する」を代表文字列とするクラスタであり、クラスタ132は文字列「データを移動・複写する」を代表文字列とするクラスタであり、クラスタ133は文字列「電話帳を作る」を代表文字列とするクラスタであり、クラスタ134は文字列「電話帳から探す」を代表文字列とするクラスタである。ここで、上記文字認識結果の文字列は、上記2文字列間距離に基づいて各クラスタ毎に「章」や「節」の単位として分類される。
【0075】
以上が、上記書籍構造抽出処理の概念の説明である。つまり、上記書籍構造抽出処理によれば、不完全なテキストをDPマッチングと誤認識度合いを反映した距離テーブル16とに基づいてクラスタリングを行なうことによって、各クラスタを構成する文字列が掲載されたページの集合が、書籍を構成する「章」や「節」の単位として抽出されるのである。
【0076】
以下、図15に従って、上記書籍構造抽出処理動作について説明する。書籍構造抽出処理は、上述したように、書籍1冊の全ページ画像に対する領域分割および文字認識が終了すると開始される。
【0077】
ステップS11で、上記ヘッダあるいはフッターの何れかが処理対象文字列として選択される。これは、メモリ8の認識結果部30の総ての認識結果におけるポインタ87(図10参照)で示される領域分割部29の該当する領域結果部74を求め、この領域結果部74の領域フラグ部75における最下位から6ビット目のバイナリデータを参照することによってヘッダあるいはフッターに該当する認識結果を識別する。そして、ヘッダあるいはフッターに該当する認識結果の文字列長をメモリ8の認識結果部30の該当する文字数部88から読み出し、ヘッダに該当する認識結果の文字列長の総和と、フッターに該当する認識結果の文字列長の総和とを算出する。その結果、ヘッダおよびフッターのうち文字列長の総和が大きい方(つまり、情報量の多い方)を、書籍構造抽出処理の対象文字列とする。以下の説明においては、便宜上ヘッダーが対象文字列となった場合を想定する。
【0078】
ステップS12で、各ページのヘッダあるいはフッターの文字列が抽出されて、メモリ8のクラスタリングメモリ部33に格納される。これは、メモリ8の認識結果部30のポインタ87で示される領域分割部29の該当する領域結果部74の領域フラグ部75を参照してヘッダ(対象文字列はヘッダと仮定している)の認識結果を探し、認識結果部30におけるヘッダの認識結果に該当する文字数部88で示される文字数だけコード部91からコード情報を読み出す。そして、メモリ8のクラスタリングメモリ部33における文字列部122にコード情報(文字列)を格納し、文字列文字数部123に上記文字数を格納し、ページ番号部124には領域分割結果部29の該当文字列の領域結果部74におけるページ番号部76の内容を格納することによって行われる。
【0079】
ステップS13で、上記ステップS12に示すようにしてメモリ8のクラスタリングメモリ部33に格納された全ヘッダ(または全フッター)の文字列を母集団として、LBGアルゴリズムによってクラスタリングが行われる。その際における2文字列間の距離は、距離計算部17によって距離テーブル16を参照することによって求められる。そして、クラスタリングの結果として、各ヘッダ(各フッター)文字列毎に、その文字列が属するクラスタリング番号がクラスタリングメモリ部33のクラスタ番号部125に格納される。さらに、その文字列がそのクラスタの代表文字列である場合には、クラスタリングメモリ部33のクラスタ代表フラグ部126に「1」が格納される。
【0080】
ステップS14で、上記ステップS13において、メモリ8のクラスタリングメモリ部33に格納されたクラスタリング結果から書籍構造が抽出され、メモリ8の書籍構造結果部31に出力される。すなわち、各クラスタの代表文字列が代表タイトル文字列部101に格納される。また、代表文字列の文字数が文字数部102に格納される。また、各クラスタを構成するヘッダ文字列(またはフッター文字列)のページ番号を検索して得られた最小値が開始ページ番号部103に格納される一方、最大値が終了ページ番号104に格納されるのである。そうした後に、書籍構造抽出処理を終了して図14に示す自動オーサリング処理動作のフローチャートにリターンする。
【0081】
上記書籍構造の抽出結果を、図16および図17を例に具体的に述べれば次の様になる。すなわち、書籍構造結果部31の第1構造情報部100には、代表タイトル文字列「文字を入力する」、開始ページ番号「1」、終了ページ番号「9」が格納される。また、第2構造情報部100には、代表タイトル文字列「データを移動・複写する」、開始ページ番号「10」、終了ページ番号「17」が格納される。第3構造情報部100には、代表タイトル文字列「電話帳を作る」、開始ページ番号「18」、終了ページ番号「22」が格納される。また、第4構造情報部100には、代表タイトル文字列「電話帳から探す」、開始ページ番号「23」、終了ページ番号「28」が格納されるのである。
【0082】
上述のようにして得られた書籍構造結果は、後述する目次ページからの自動リンク付け処理時において、目次ページの誤認識を吸収するために用いられる。
【0083】
このように、各ヘッダ(フッター)の文字列に対してクラスタリングを行って代表文字列を求めることによって、図16及び図17に示すように、各クラスタのメンバ文字列中に存在する誤認識結果を吸収して上記書籍構造を抽出することができるのである。
【0084】
図18は、図14に示す自動オーサリング処理動作のフローチャート中の上記ステップS5において実行されるリンク元ページ判定サブルーチンのフローチャートである。図14における上記ステップS4において書籍構造抽出処理が終了するとリンク元ページ判定サブルーチンがスタートする。
【0085】
ここで、上記リンク元ページ判定部21に対する入力データは注目ページ番号であり、上記注目ページは「目次ページ」,「索引ページ」または「その他のページ」の何れであるかが出力データである。この入出力データは、データバス5を介して主制御部1とリンク元ページ判定部21との間で通信される。尚、上述したように、上記リンク元ページ判定処理はルールに基づいて行われるのであるが、その場合のルールは、
・目次ページや索引ページの行末はリンク先ページ数を表す数字が多い
・目次ページや索引ページ中の認識結果には目次や索引を表すキーワードが存在する
である。但し、キーワード検索は完全一致検索ではなく、距離計算部17によって求めたキーワードと検索文字列間の距離が閾値以下である場合にはキーワードは存在すると判定する。これは、文字認識部19による目次ページや索引ページの文字列に対する誤認識を吸収するためである。
【0086】
ステップS21で、上記主制御部1から送出されてくる「注目ページ」に関する認識結果が走査される。これは、メモリ8の領域分割結果部29と認識結果部30とを参照することによって行う。そして、この走査結果から以下の情報が求められる。(1)全行数に対する末尾文字が数字である行数の比率の算出。(2)目次キーワード「目次」,「もくじ」,「Contents」,「コンテンツ」に対する最小距離文字列の検索とその最小距離の算出。(3)索引キーワード「索引」,「さくいん」,「Index」,「インデックス」に対する最小距離文字列の検索とその最小距離の算出。
【0087】
ここで、上記3つの情報の算出は次の様にして行う。
(1)は、上記注目ページの全行数と末尾文字が数字である行数とを算出する。そして、末尾文字が数字である行数の全行数に対する百分率(以下、行末数字比率と言う)を算出する。
(2)は、注目ページに関する認識結果の各文字を先頭文字として固定して、順次目次キーワード「目次」,「もくじ」,「Contents」,「コンテンツ」と同じ文字数となる文字列を切り出す。そして、目次キーワードと切り出し文字列との距離を距離計算部17によって行い、最小距離を求める。
(3)は、索引キーワード「索引」,「さくいん」,「Index」,「インデックス」に関して上記(2)と同じ処理を行って、索引キーワードと切り出し文字列との最小距離を求める。
【0088】
ステップS22で、上記ステップS21における(1)で算出された行末数字比率が80%以上であるか否かが判別される。その結果、80%以上であればステップS23に進み、そうでなければステップS27に進む。ステップS23で、目次キーワードの存在が判定される。これは、上記ステップS21における(2)で算出された目次キーワードと切り出し文字列との最小距離が閾値(例えば「50」)以下であるか否かによって行われる。そして、上記最小距離が閾値以下であれば目次キーワードは存在すると判定されてステップS24に進む。一方、上記閾値より大きければステップS25に進む。ステップS24で、注目ページは目次ページであることを表す値「0(0x00)」が出力される。そうした後に、リンク元ページ判定処理を終了して図14に示す自動オーサリング処理動作のフローチャートにリターンする。
【0089】
ステップS25で、上記索引キーワードの存在が判定される。これは、上記ステップS21における(3)で算出された索引キーワードと切り出し文字列との最小距離が閾値(例えば「50」)以下であるか否かによって行われる。そして、上記最小距離が閾値以下であれば索引キーワードは存在すると判定されてステップS26に進む。一方、上記閾値より大きければステップS27に進む。ステップS26で、注目ページは索引ページであることを表す値「1(0x01)」が出力される。そうした後、リンク元ページ判定処理を終了して図14に示す自動オーサリング処理動作のフローチャートにリターンする。
【0090】
ステップS27で、注目ページはその他のページであることを表す値「0xff」が出力される。そうした後、リンク元ページ判定処理を終了して図14に示す自動オーサリング処理動作のフローチャートにリターンする。
【0091】
図19は、図14に示す自動オーサリング処理動作のフローチャート中の上記ステップS6において実行されるリンク元オブジェクト抽出サブルーチンのフローチャートである。図14における上記ステップS5においてリンク元ページ判定処理が終了するとリンク元オブジェクト抽出サブルーチンがスタートする。
【0092】
図20は、図3に示す索引ページの画像における上から3行目までを抽出した索引の一例を示す。索引は、項目とページ番号とが何某かのセパレータで分離されている構成されているのが普通である。図20(a)に示す例では、項目とページ番号とがセパレータ「…」で分離されている。また、図20(b)に示す例では、項目とページ番号とがセパレータ「―」で分離されている。また、図20(c)に示す例では、項目とページ番号とがセパレータ「空白」で分離されている。目次ページの場合には縦書きが多いが、基本的には索引ページと同様にセパレートされている。
【0093】
このように、目次ページの場合も索引ページの場合も、項目文字列方向に直交する方向への幅が項目文字幅に比べて非常に小さい記号文字または空白の連続がセパレータとなっているものが殆どである。そこで、本実施の形態においては、この特徴を利用して目次ページあるいは索引ページからのオブジェクト切り出しを行うのである。尚、以下の説明では、リンク元ページは横書きであり、項目および数字は行方向に配列されているものとする。
【0094】
ステップS31で、上記リンク元ページ判定処理によってリンク元ページと判定されたページの認識結果から、各行単位に、文字高さ(縦書きの場合には文字幅)のヒストグラムが作成される。このヒストグラムの作成は、認識結果部30の開始X座標部93〜終了Y座標部96の内容を入力データとして各文字の高さ(幅)を求め、その頻度を算出することによって作成する。こうして作成されたヒストグラムは、メモリ8のヒストグラムバッファ部34に格納される。
【0095】
ステップS32で、上記ステップS31において作成されたヒストグラムに対して判別分析による二値化閾値が計算される。尚、上記判別分析アルゴリズムは、電子情報通信学会論文誌80/4 Vol. J63−D No.「判別および最小2乗基準に基づく自しきい値選定法」に記載されている計算方法を用いる。この判別分析法の利点は、パラメータが不要で且つ最適な閾値を計算できる点である。
【0096】
図21は、上記文字高さのヒストグラムおよび二値化閾値の例を示す。図21において横軸はサイズ(文字高さを表す画素数)を示し、縦軸は頻度を示す。図中○印141で囲まれた部分は高さが小さい記号文字(列方向で言えば「…」や「−」)の高頻度部を表し、○印142で囲まれた部分は高さが通常の文字の高頻度部を表している。そして、高さが小さい記号文字の山と高さが通常の文字の山との間に、判別分析で求められた二値化閾値Aが存在する。そこで、二値化閾値Aより小さいサイズの文字をセパレータ候補であると判定するのである。
【0097】
ところで、文字の大小関係は原稿フォントによって変動する。そこで、本実施の形態においては、文字の高さ(幅)のヒストグラムに対して判別分析を行って二値化閾値Aを算出することによって、文字の大小判定を動的に行うのである。
【0098】
ステップS33で、注目行において、上記セパレータ候補は「空白」であるか否かが判別される。その結果、「空白」であればステップS36に進み、そうでなければステップS34に進む。ここで、「空白」の判定は以下のような判定条件に基づいて行う。すなわち、
(1) 行(列)の中心付近にその行(列)における最大空白(文字間隔)が存在し、その空白長が行(列)長の20%以上である。
(2) 判別分析で求めた二値化閾値A以下の文字高さ(幅)の平均が、行の高さ(列の幅)の50%よりも大きい(小さい記号が存在しない)。
である。そして、上記2つの判定条件のうち何れか1つでも満たす場合には、上記セパレータは「空白」であると判定するのである。
【0099】
ステップS34で、上記セパレータは「空白」ではないので、以下のような仮区間の設定が行われる。これは、上記ステップS32において求められた二値化閾値A以下の高さ(幅)を有する全文字(記号)を注目行から抽出し、二値化閾値A以下の高さ(幅)の文字(記号)が連続する最大区間を抽出し、この最大区間の両端を仮のセパレータ開始文字とセパレータ終了文字として設定することによって行う。
【0100】
ステップS35で、上記セパレータを抽出するセパレータ抽出が行われる。殆どの場合には、上記ステップS34における仮区間の設定によってセパレータ区間が抽出される。ところが、切り出すべきオブジェクト文字列の終了が小文字(ぁ,っ,ゃ,ュ,ョ等)であった場合にその小文字がセパレータ文字と判定される場合がある。そのようなエラーを修正するために本セパレータ抽出が行われる。これは、上記仮区間の左右両端の文字を順次1つずつ消去しながら文字高さ(文字幅)の分散を求め、その分散が最小となり且つ文字列の長さが最大となる区間を上記セパレータとして抽出するのである。そして、注目行における上記抽出されたセパレータによって分離された左側(縦書きの場合には上側)の認識結果がオブジェクト文字列(項目文字列)となり、右側(下側)の認識結果がページ番号文字列となるのである。
【0101】
ステップS36で、空白切り出しが行われる。これは、上記セパレータは「空白」であるので、注目行の中心付近で最大長の「空白」列を上記セパレータとすることによって行う。そして、上記セパレータによって分離された左側(上側)の認識結果がオブジェクト文字列(項目文字列)となり、右側(下側)の認識結果がページ番号文字列となる。
【0102】
ステップS37で、上記ステップS35において抽出されたセパレータおよび上記ステップS36において切り出されたセパレータの情報に基づいて、上記セパレータより左右(上下)の認識結果がリンク元オブジェクトとして抽出される。ステップS38で、上記ステップS37において、上述のようにして各行の認識結果から抽出されたリンク元オブジェクトの情報が、順次出力されて、メモリ8のオブジェクト部32における該当するオブジェクト格納部105に格納される。そうした後、リンク元オブジェクト抽出処理を終了して図14に示す自動オーサリング処理動作のフローチャートにリターンする。
【0103】
上記リンク元オブジェクト抽出結果を、図20における文字列「カタカナ」を例に具体的に述べれば次の様になる。すなわち、オブジェクト部32の該当オブジェクト格納部105におけるオブジェクト文字列部106には抽出オブジェクト「カタカナ」(誤認識文字はそのまま含んで)が格納される。また、ページ番号文字列部107には抽出オブジェクト「30」(誤認識文字はそのまま含んで)が格納される。また、オブジェクト文字列文字数部108には抽出オブジェクト“カタカナ”の文字数「4」が格納される。また、ページ番号文字列文字数部109には抽出オブジェクト“30”の文字数「2」が格納される。また、リンク元ページ番号部110には当該リンク元ページの番号「352」(図3の領域54を参照)が格納される。また、開始X座標部111〜終了Y座標部114には抽出オブジェクト“カタカナ”の外接矩形座標が格納される。また、目次・索引フラグ部115には当該リンク元ページは索引ページであることを示す「1(目次の場合には0)」(図3の領域51を参照)が格納される。また、上記リンク先ページ番号部116には、リンクが張られていないことを表す初期値「0xff」が格納されるのである。
【0104】
上述したように、上記領域分割処理、文字認識処理、書籍構造抽出処理、リンク元ページ判定処理、リンク元オブジェクト抽出処理が順次行われて、目次ページや索引ページに存在する総てのオブジェクトが抽出されると、本実施の形態における最も特徴的な自動リンクサブルーチンが行われるのである。
【0105】
図22は、図14に示す自動オーサリング処理動作のフローチャート中の上記ステップS7において実行される自動リンクサブルーチンのフローチャートである。図14における上記ステップS6においてリンク元オブジェクト抽出処理が終了すると自動リンクサブルーチンがスタートする。
【0106】
ステップS41で、上記抽出された全リンク元オブジェクトが順に走査されて、注目オブジェクトが目次ページのオブジェクトであるか索引ページのオブジェクトであるかが判別される。これは、リンク元ページ判定部21の判定結果に基づいて、リンク元オブジェクト抽出部22によってオブジェクト部32に格納された目次・索引フラグ部115の内容を参照し、「0」であれば注目オブジェクトは目次ページのオブジェクトであると判別する一方、「1」であれば索引ページのオブジェクトであると判別することで行う。そして、目次ページのオブジェクトであると判別された場合にはステップS42に進む一方、索引ページのオブジェクトであると判別された場合にはステップS46に進む。
【0107】
ステップS42で、注目オブジェクトに対するリンク先構造情報の決定が行われる。これは、リンク先クラスタ判定部25によって、注目オブジェクトの文字列(オブジェクト部32のオブジェクト文字列部106に格納されている)と、書籍構造結果部31における全構造情報部100の代表タイトル文字列部101に格納された代表タイトル文字列との距離を、距離計算部17によって算出する。そして、最小距離を呈する代表タイトル文字列に関する書籍構造情報をリンク先構造情報として決定することによって行う。
【0108】
上述のようにリンク先の決定にリンク元オブジェクト文字列と代表タイトル文字列との距離を用いることによって、リンク元オブジェクト文字列あるいは代表タイトル文字列に対する誤認識を吸収することができる。例えば、図16に示すヘッダ情報を有する書籍における目次ページの認識結果および誤認識結果の例を図23に示す。このように、文字列の認識には誤認識が付きまとうため(また、ヘッダ部分の文字列も正確に認識されるとは限らず)、常に誤認識を考慮した処理が必要となるのである。
【0109】
具体的に説明すれば、図16に示すヘッダ情報に対するクラスタリング処理結果から得られた代表タイトル文字列を「文字を入力する」,「データを移動・複写する」,「電話帳を作る」および「電話帳から探す」(図17)とし、同じ書籍における目次ページの認識結果を図23とした場合、上記リンク先構造情報の決定処理は、例えば注目オブジェクトの文字列を「文字を入カする(「入力」の漢字「力」が片仮名「カ」に誤認識されている)」と、各代表タイトル文字列を「文字を入力する」,「データを移動・複写する」,「電話帳を作る」及び「電話帳から探す」との距離を計算し、最も距離が近い代表タイトル文字列「文字を入力する」をリンク先構造情報として決定するのである。したがって、注目オブジェクトの文字列に誤認識文字が含まれていても正しいリンク先構造情報が得ることができるのである。
【0110】
ステップS43で、リンク付け可能か否かの判定が行われる。これは、オブジェクト部32における注目オブジェクトのオブジェクト格納部105におけるページ番号文字列部107の内容を数値に変換し、この数値が、書籍構造結果部31における上記決定されたリンク先構造情報(書籍構造)の開始ページ番号部103の内容(数値)と合致するか否かが判別することによって行われる。そして、合致する場合(つまり、リンク付け可能な場合)にはステップS50に進み、そうでなければステップS44に進む。
【0111】
ステップS44で、ページ番号文字列の置き換えが行われる。これは、注目オブジェクトのオブジェクト格納部105におけるページ番号文字列部107の内容を、距離テーブル16における例えば行がページ番号文字列部107の内容であり例えば列が数字である部分から要素値(距離)が閾値(例えば「50」)以内で且つ最小値を呈する列の数字に置き換えることによって行われる。
【0112】
ステップS45で、上記ステップS44におけるページ番号文字列の置き換えは可能であったか否かが判別される。これは、要素値(距離)が上記閾値以内である数字が距離テーブル16に存在したか否かを判別することによって行われる。そして、置き換えが可能であった場合には、上記ステップS43に戻って置換された数字に関してリンク付け可能か否かの判定が行われる。一方、置き換えが不可能であった場合にはステップS50に進む。
【0113】
ステップS46で、注目ページにおける注目オブジェクトの検索が行われる。これは、オブジェクト部32の注目オブジェクトに係るオブジェクト格納部105におけるページ番号文字列部107の内容を数値に変換して注目ページ番号とする。そして、この注目ページ番号のページ(注目ページ)に関する認識結果中に注目オブジェクトの文字列(オブジェクト部32のオブジェクト文字列部106の内容)が存在するか否かを判別することによって行われる。この場合の検索は、上記リンク元ページ判定処理時における目次キーワードあるいは索引キーワードの検索時と同様に、距離計算部17によって計算された2文字列の間の距離が閾値以下である文字列を検索する方式によって行う。こうして、上記注目ページに関する認識結果や注目オブジェクトの文字列に含まれる誤認識を吸収するのである。
【0114】
ステップS47で、上記ステップS46における検索結果に基づいて、リンク付け可能か否かの判定が行われる。これは、上記注目オブジェクトの文字列が上記注目ページの認識結果内に存在する(正確には、ある閾値以内の類似度を有する認識結果が存在する)かを判定することによって行う。そして、リンク付け可能な場合にはステップS50に進み、そうでなければステップS48に進む。
【0115】
ステップS48で、注目オブジェクトのページ番号文字列に誤認識が在ったとして上記ページ番号文字列の置き換えが行われる。これは、注目オブジェクトが目次ページのオブジェクトである場合における上記ステップS44と同じ処理によって行う。
【0116】
ステップS49で、注目オブジェクトが目次ページのオブジェクトである場合における上記ステップS45と同じ処理によって、上記ステップS48におけるページ番号文字列の置き換えは可能であったか否かが判別される。そして、置き換えが可能であった場合には、上記ステップS46に戻って次の注目ページにおける注目オブジェクトの検索が行われる。一方、置き換えが不可能であった場合にはステップS50に進む。
【0117】
ステップS50で、リンク先ページ番号がオブジェクト部32における注目オブジェクトのリンク先ページ番号部116に出力される。これは、上記ステップS43においてリンク付け可能と判別された場合には、上記ステップS42において決定されたリンク先構造情報の開始ページ番号を上記リンク先ページ番号とする。また、上記ステップS47においてリンク付け可能と判別された場合には、上記ステップS46において得られた注目ページ番号を上記リンク先ページ番号とする。さらに、上記ステップS45あるいはステップS49において置き換え不可能と判定された場合には、エラー値「0xff(=初期値)」を上記リンク先ページ番号とすることによって行われる。そうした後、自動リンク処理を終了して図14に示す自動オーサリング処理動作のフローチャートにリターンする。
【0118】
以上のように、本実施の形態においては、画像入力部6あるいは外部記憶装置制御部9によって書籍1冊分の画像データをメモリ8のページ画像部28に取り込み、領域分割部18によって上記画像データに対して領域分割処理を行い、文字認識部19によって上記分割された領域に対して文字認識処理を行う。そうした後に、1冊の書籍分総てに関する上記領域分割処理および文字認識処理に基づいて以下のようなリンク編集を行う。その場合のリンク編集は、次の様な書籍が有する特徴を利用して行う。
(a) 目次や索引では「項目文字列」と「その項目が記載されているページ番号」とが、「…」,「−」あるいは「空白」等のセパレータを介して同じ列や行を構成している。
(b) 目次ページの「項目」は、その書籍の「章」や「節」の代表タイトル文字列であることが多い。
(c) 書籍の「章」や「節」の代表タイトル文字列は、該当する「章」や「節」における「ヘッダ」あるいは「フッター」に記載されている。
(d) 索引ページの「項目文字列」は、対応付けられたページ番号のページの文字認識結果中に存在する。
【0119】
すなわち、先ず、書籍構造抽出部24で、特徴(c)を利用して、ヘッダあるいはフッターから文字列を抽出し、クラスタリング部23によるクラスタリング結果に基づいて代表タイトル文字列とその代表タイトル文字列のクラスタに属する先頭ページ番号とを求める。次に、リンク元ページ判定部で、特徴(a)とルールとを利用して目次ページおよび索引ページを判定する。次に、リンク元オブジェクト抽出部22で、特徴(a)を利用して目次ページおよび索引ページの各行から「項目文字列」と「ページ番号」とを分離して抽出する。
【0120】
そして、上記目次ページの場合には、リンク先クラスタ判定部25で、上記特徴(b),(c)を利用して、目次ページの「項目文字列」との距離が最小の代表タイトル文字列とその代表タイトル文字列のクラスタに属する先頭ページ番号とを求める。次に、目次ページリンク決定部26で、目次ページにおいて「項目文字列」と対を成す「ページ番号」が上記得られた「該当クラスタの先頭ページ番号」に合致するかを調べ、合致しない場合には距離テーブル16を利用して上記「ページ番号」を最も誤認識され易い数字に変換して上記合致の判定を行う。そして、合致する場合に上記「該当クラスタの先頭ページ番号」をリンク先ページ番号とする。
【0121】
また、上記索引ページの場合には、上記索引ページリンク決定部27で、上記特徴(d)を利用して、索引ページの「項目文字列」と対を成す「ページ番号」のページの文字認識結果中に「項目文字列」が存在するかを調べ、存在しない場合には距離テーブル16を利用して上記「ページ番号」を最も誤認識され易い数字に変換して上記存在の判定を行う。そして、存在する場合に上記「ページ番号」をリンク先ページ番号とする。
【0122】
そうした後、上記目次ページリンク決定部26および索引ページリンク決定部27で、上記得られたリンク先ページ番号とリンク元ページ番号やリンク元オブジェクトの切り出し座標等を、外部記憶装置10の書籍コンテンツファイル12に格納するようにしている。
【0123】
すなわち、本実施の形態によれば、書籍1冊分の画像データの文字認識結果に基づいて上記書籍構造抽出部24で書籍構造を抽出する際に、クラスタリング部23によってヘッダあるいはフッターの文字列の認識結果に対してクラスタリングを行うので、ヘッダあるいはフッターの文字列の誤認識を吸収できる。また、目次ページの「項目文字列」に該当する「代表タイトル文字列」の検索や索引ページの「項目文字列」に一致する注目ページ中の認識結果の検索を、完全一致ではなく最小距離を利用して行うので、「項目文字列」,「代表タイトル文字列」および「注目ページ中の認識結果」の誤認識を吸収できる。また、リンク付け可能の判定の際に上記「ページ番号」を最も誤認識され易い数字に変換しながら上記判定を行うので、リンク元ページ番号の誤認識を吸収できる。したがって、漫画や写真雑誌等の画像ベース電子書籍に対する自動リンク編集を可能にするのである。
【0124】
上記自動オーサリング装置においては、自動オーサリング処理のプログラムを以下の何れかの方法によって、ROM(リード・オンリ・メモリ)またはRAM(何れも図示せず)に記憶している。
(a) 予め上記ROMに記憶しておく。
(b) 上記自動オーサリング処理のプログラムの一部または全部をフロッピーディスクやハードディスク装置等の記録媒体に格納しておき、必要に応じて上記プログラムを上記RAMにインストールする。
(c) コンピュータネットワークから上記自動オーサリング処理のプログラムを上記RAMにインストールする。
【0125】
【発明の効果】
以上より明らかなように、請求項1に係る発明の自動オーサリング装置は、画像入力手段,距離テーブル,距離計算手段,領域分割手段,文字認識手段,クラスタリング手段および書籍構造抽出手段を備えて、上記領域分割手段および文字認識手段で得られた書籍全ページのヘッダあるいはフッターの何れか一方の文字列の集合に対して、上記クラスタリング手段によってクラスタリングを行い、上記書籍構造抽出手段によって、上記各クラスタに属する文字列に係るページの境界を当該書籍の章や節等の区切りとすると共に、各クラスタの代表文字列を上記区切り間の代表タイトル文字列として書籍構造を抽出するので、画像ベース電子書籍の章や節等の書籍構造を自動的に抽出できる。したがって、この抽出された書籍構造を利用して画像ベース電子書籍のハイパーテキスト化が可能になる。
【0126】
その際に、上記文字列の分類にクラスタリングを用いることによって、上記ヘッダあるいはフッターの文字認識結果における誤認識を吸収することができる。したがって、現在の文字認識精度であっても高い精度で書籍構造を抽出できる。
【0127】
また、請求項2に係る発明の自動オーサリング装置は、画像入力手段,距離テーブル,距離計算手段,領域分割手段,文字認識手段,クラスタリング手段,書籍構造抽出手段,リンク元ページ判定手段,リンク元オブジェクト抽出手段,リンク先クラスタ判定手段および目次ページリンク決定手段を備えて、上記リンク元ページ判定手段によって各ページ毎に目次ページあるいは索引ページの判定を行い、上記リンク元オブジェクト抽出手段によって目次ページまたは索引ページからリンク元オブジェクトを項目文字列部とページ番号文字列部とに分けて抽出し、上記リンク先クラスタ判定手段によって目次ページにおける各リンク元オブジェクトの項目文字列に対応する上記書籍の区切りを判定し、上記目次ページリンク決定手段によって上記各リンク元オブジェクトのページ番号文字列と上記書籍の区切りの開始ページ番号との比較結果に基づいて目次ページに対するリンク付けを行うので、画像ベース電子書籍における各目次の項目から参照ページへのリンク付けを自動的に行うことができる。
【0128】
その際に、上記書籍構造抽出にクラスタリングを用いることによって、上記ヘッダまたはフッターの文字認識結果における誤認識を吸収することができる。さらに、上記リンク元オブジェクトに対応する上記書籍の区切りの判定に、上記リンク元オブジェクトの項目文字列と上記書籍の区切り間の代表タイトル文字列との距離を用いることによって、上記項目文字列の誤認識を吸収できる。さらに、上記各リンク元オブジェクトのページ番号文字列と上記書籍の区切りの開始ページ番号との比較の際に、上記ページ番号文字列と開始ページ番号とが一致しない場合には上記ページ番号文字列を誤認識し易い数字に置換して上記比較を繰り返すことによって、上記ページ番号文字列の誤認識を吸収できるのである。
【0129】
したがって、画像ベース電子書籍をテキストベース電子書籍に変換する際における文字認識精度が現状の98%程度であっても、目次ページと本文ページとのリンク付けを正しく行うことができる。
【0130】
また、請求項3に係る発明の自動オーサリング装置は、画像入力手段,距離テーブル,距離計算手段,領域分割手段,文字認識手段,リンク元ページ判定手段,リンク元オブジェクト抽出手段および索引ページリンク決定手段を備えて、上記索引ページリンク決定手段によって、上記各リンク元オブジェクトにおけるページ番号のページの文字認識結果中からの上記項目文字列の検索結果に基づいて索引ページに対するリンク付けを行うので、画像ベース電子書籍における各索引の項目から参照ページへのリンク付けを自動的に行うことができる。
【0131】
その際に、上記書籍構造抽出にクラスタリングを用いることによって、上記ヘッダあるいはフッターの文字認識結果における誤認識を吸収することができる。さらに、上記ページ番号に係る文字認識結果中からの上記項目文字列の検索に、上記文字認識結果から切り出した文字列と上記項目文字列との距離を用いることによって、上記項目文字列の誤認識を吸収することができる。さらに、上記検索の際に上記項目文字列が検索されない場合には上記ページ番号文字列を誤認識し易い数字に置換して上記検索を繰り返すことによって、上記ページ番号文字列の誤認識を吸収することができるのである。
【0132】
したがって、画像ベース電子書籍をテキストベース電子書籍に変換する際における文字認識精度が現状の98%程度であっても、索引ページと本文ページとのリンク付けを正しく行うことができる。
【0133】
また、請求項4に係る発明の自動オーサリング装置は、請求項2に係る発明の自動オーサリング装置に、請求項3に係る発明における索引ページリンク決定手段を付加したので、画像ベース電子書籍における各目次あるいは索引の項目から参照ページへのリンク付けを自動的に行うことができる。
【0134】
その際に、請求項2および請求項3に係る発明の場合と同様に、上記ヘッダあるいはフッターの文字認識結果における誤認識を吸収し、上記項目文字列における誤認識を吸収し、上記ページ番号文字列の誤認識を吸収することができるのである。
【0135】
また、請求項5に係る発明の自動オーサリング装置における上記リンク元オブジェクト抽出手段は、各リンク元オブジェクト毎に項目文字列の配列方向に直交する方向への文字長さのヒストグラムを作成するヒストグラム作成手段と、上記ヒストグラムに対して判別分析によって二値化閾値を計算する二値化閾値算出手段と、上記二値化閾値以下の長さを有する文字の連なりでなるセパレータ候補中から上記方向への文字長さの分散が最小となる連続区間を上記セパレータとして抽出するセパレータ抽出手段と、上記リンク元オブジェクトにおける上記抽出されたセパレータの一側を上記項目文字列とし他側を上記ページ番号文字列として抽出するオブジェクト抽出手段を有しているので、「…」,「−」あるいは「空白」等のセパレータの特徴を利用して、上記項目文字列とページ番号文字列とを自動的に分離して抽出できる。
【0136】
また、請求項6に係る発明の記録媒体には、請求項4における上記画像入力手段,距離計算手段,領域分割手段,文字認識手段,クラスタリング手段,書籍構造抽出手段,リンク元ページ判定手段,リンク元オブジェクト抽出手段,リンク先クラスタ判定手段,目次ページリンク決定手段および索引ページリンク決定手段として、コンピュータを機能させて、書籍の画像データに基づいて目次あるいは索引の各項目から参照ページへのリンク付けを自動的に行う自動オーサリングプログラムが記録されているので、請求項4に係る発明の場合と同様に、上記ヘッダあるいはフッターの文字列や上記リンク元オブジェクトの項目文字列およびページ番号文字列の誤認識を吸収した目次ページあるいは索引ページに対するリンク付けを自動的に行うことができる。
【図面の簡単な説明】
【図1】この発明の自動オーサリング装置におけるブロック図である。
【図2】図1における領域分割部による目次ページに対する領域分割結果の概念図である。
【図3】図1における領域分割部による索引ページに対する領域分割結果の概念図である。
【図4】図2に示す目次ページに対するリンク先ページの画像例を示す図である。
【図5】図3に示す索引ページに対するリンク先ページの画像例を示す図である。
【図6】図1における距離テーブルの概念図である。
【図7】図1における距離計算部の詳細なブロック図である。
【図8】図1におけるページ画像部の詳細な構成概念図である。
【図9】図1における領域分割結果部の詳細な構成概念図である。
【図10】図1における認識結果部の詳細な構成概念図である。
【図11】図1における書籍構造結果部の詳細な構成概念図である。
【図12】図1におけるオブジェクト部の詳細な構成概念図である。
【図13】図1におけるクラスタリングメモリ部の詳細な構成概念図である。
【図14】図1における制御部の制御の下に行われる自動オーサリング処理動作のフローチャートである。
【図15】図14に示す自動オーサリング処理動作中において実行される書籍構造抽出サブルーチンのフローチャートである。
【図16】ある書籍の全ページのヘッダ部における正解文字列と文字認識結果と誤認識結果の一例を示す図である。
【図17】図16に示す文字認識結果に対するクラスタリング結果を示す図である。
【図18】図14に示す自動オーサリング処理動作中において実行されるリンク元ページ判定サブルーチンのフローチャートである。
【図19】図14に示す自動オーサリング処理動作中において実行されるリンク元オブジェクト抽出サブルーチンのフローチャートである。
【図20】図3に示す索引ページから抽出した索引の例を示す図である。
【図21】文字高さのヒストグラム及び二値化閾値の例を示す図である。
【図22】図14に示す自動オーサリング処理動作中において実行される自動リンクサブルーチンのフローチャートである。
【図23】目次ページの認識結果および誤認識結果の例を示す図である。
【図24】リンク機能の概念を示す図である。
【符号の説明】
1…主制御部、 5…データバス、
6…画像入力部、 8…メモリ、
9…外部記憶装置制御部、 10…外部記憶装置、
11…書籍画像ファイル、 12…書籍コンテンツファイル、
16…距離テーブル、 17…距離計算部、
18…領域分割部、 19…文字認識部、
21…リンク元ページ判定部、 22…リンク元オブジェクト抽出部、
23…クラスタリング部、 24…書籍構造抽出部、
25…リンク先クラスタ判定部、 26…目次ページリンク決定部、
27…索引ページリンク決定部、 28…ページ画像部、
29…領域分割結果部、 30…認識結果部、
31…書籍構造結果部、 32…オブジェクト部、
33…クラスタリングメモリ部、 34…ヒストグラムバッファ部。
Claims (6)
- 画像ベース電子書籍を自動的にオーサリングする自動オーサリング装置であって、
書籍の各ページの画像を入力する画像入力手段と、
文字認識時の誤認識傾向を距離値に変換して予め作成した距離テーブルと、
上記距離テーブルを用いて2文字列間の距離を計算する距離計算手段と、
上記画像入力手段から取り込まれた画像データに対して領域分割を行って、文字領域,写真領域,図形領域を含む領域を抽出する領域分割手段と、
上記領域分割手段によって抽出された文字領域の画像データに基づいて、文字認識を行う文字認識手段と、
文字列の集合に対して、上記距離計算手段による2文字列間の距離の算出結果を用いて複数のクラスタに分割し、各クラスタを代表する代表文字列を抽出するクラスタリング手段と、
上記書籍全ページのヘッダまたはフッターの何れか一方の文字列の集合に対する上記クラスタリング結果を用いて、各クラスタに属する文字列に係るページの境界を当該書籍の区切りとすると共に、各クラスタの代表文字列を上記区切り間の代表タイトル文字列として書籍構造を抽出する書籍構造抽出手段を備えて、
上記画像入力手段から取り込まれた書籍の画像データに基づいて、当該書籍の書籍構造を抽出することを特徴とする自動オーサリング装置。 - 画像ベース電子書籍を自動的にオーサリングする自動オーサリング装置であって、
書籍の各ページの画像を入力する画像入力手段と、
文字認識時の誤認識傾向を距離値に変換して予め作成した距離テーブルと、
上記距離テーブルを用いて2文字列間の距離を計算する距離計算手段と、
上記画像入力手段から取り込まれた画像データに対して領域分割を行って、文字領域,写真領域,図形領域を含む領域を抽出する領域分割手段と、
上記領域分割手段によって抽出された文字領域の画像データに基づいて、文字認識を行う文字認識手段と、
文字列の集合に対して、上記距離計算手段による2文字列間の距離の算出結果を用いて複数のクラスタに分割し、各クラスタを代表する代表文字列を抽出するクラスタリング手段と、
上記書籍全ページのヘッダあるいはフッターの何れか一方の文字列の集合に対する上記クラスタリング結果を用いて、各クラスタに属する文字列に係るページの境界を当該書籍の区切りとすると共に、各クラスタの代表文字列を上記区切り間の代表タイトル文字列として書籍構造を抽出する書籍構造抽出手段と、
上記各ページ毎の文字認識結果に基づいて、上記距離計算手段による文字列間距離およびキーワードを用いて、予め設定されたルールに従って、目次ページまたは索引ページの判定を行うリンク元ページ判定手段と、
上記目次ページまたは索引ページの文字認識結果に基づいて、予め設定されたルールに従って、リンク元オブジェクトを項目文字列部とこの項目文字列が記載されているページのページ番号文字列部とに分けて抽出するリンク元オブジェクト抽出手段と、
上記目次ページにおける上記各リンク元オブジェクトの項目文字列と上記書籍の区切り間の代表タイトル文字列とに間する上記距離算出手段による距離算出結果に基づいて、上記リンク元オブジェクトに対応する上記書籍の区切りを判定するリンク先クラスタ判定手段と、
上記各リンク元オブジェクトのページ番号文字列およびこのページ番号文字列が上記距離テーブルを参照して置換された誤認識し易い数字と、当該リンク元オブジェクトに対応する上記書籍の区切りの開始ページ番号との比較結果に基づいて、目次ページに対するリンク付けを行う目次ページリンク決定手段を備えて、
上記画像入力手段から取り込まれた書籍の画像データに基づいて、各目次の項目から参照ページへのリンク付けを行うことを特徴とする自動オーサリング装置。 - 画像ベース電子書籍を自動的にオーサリングする自動オーサリング装置であって、
書籍の各ページの画像を入力する画像入力手段と、
文字認識時の誤認識傾向を距離値に変換して予め作成した距離テーブルと、
上記距離テーブルを用いて2文字列間の距離を計算する距離計算手段と、
上記画像入力手段から取り込まれた画像データに対して領域分割を行って、文字領域,写真領域,図形領域を含む領域を抽出する領域分割手段と、
上記領域分割手段によって抽出された文字領域の画像データに基づいて、文字認識を行う文字認識手段と、
上記各ページ毎の文字認識結果に基づいて、上記距離計算手段による文字列間距離およびキーワードを用いて、予め設定されたルールに従って、目次ページまたは索引ページの判定を行うリンク元ページ判定手段と、
上記目次ページまたは索引ページの文字認識結果に基づいて、予め設定されたルールに従って、リンク元オブジェクトを項目文字列部とこの項目文字列が記載されているページのページ番号文字列部とに分けて抽出するリンク元オブジェクト抽出手段と、
上記索引ページにおける上記各リンク元オブジェクトの項目文字列を検索元文字列とし、上記項目文字列に対応するページ番号文字列およびこのページ番号文字列が上記距離テーブルを参照して置換された誤認識し易い数字をリンク先の注目ページ番号とし、上記注目ページ番号のページの文字認識結果から上記検索元文字列と同じ文字数の文字列を順次切り出して検索先文字列とし、上記検索元文字列と検索先文字列との距離を上記距離計算手段によって算出し、この算出結果に基づいて索引ページに対するリンク付けを行う索引ページリンク決定手段を備えて、
上記画像入力手段から取り込まれた書籍の画像データに基づいて、索引の各項目から参照ページへのリンク付けを自動的に行うことを特徴とする自動オーサリング装置。 - 請求項2に記載の自動オーサリング装置において、
上記リンク元オブジェクト抽出手段によって抽出された上記索引ページにおける上記各リンク元オブジェクトの項目文字列を検索元文字列とし、上記項目文字列に対応するページ番号文字列およびこのページ番号文字列が上記距離テーブルを参照して置換された誤認識し易い数字をリンク先の注目ページ番号とし、上記注目ページ番号のページの文字認識結果から上記検索元文字列と同じ文字数の文字列を順次切り出して検索先文字列とし、上記検索元文字列と検索先文字列との距離を上記距離計算手段によって算出し、この算出結果に基づいて索引ページに対するリンク付けを行う索引ページリンク決定手段を備えて、
上記画像入力手段から取り込まれた書籍の画像データに基づいて、目次あるいは索引の各項目から参照ページへのリンク付けを自動的に行うことを特徴とする自動オーサリング装置。 - 請求項2乃至請求項4の何れか一つに記載の自動オーサリング装置において、
上記リンク元オブジェクト抽出手段は、
上記リンク元ページ判定手段によって目次ページまたは索引ページであると判定されたページの文字認識結果に基づいて、各リンク元オブジェクト毎に、上記リンク元オブジェクトを構成する項目文字列の配列方向に直交する方向への文字長さのヒストグラムを作成するヒストグラム作成手段と、
上記ヒストグラムに対して判別分析によって二値化閾値を計算する二値化閾値算出手段と、
上記二値化閾値以下の長さを有する文字連なりを上記リンク元オブジェクトにおける項目文字列とページ番号文字列とを分離するセパレータの候補として抽出し、この抽出されたセパレータ候補中から上記方向への文字長さの分散が最小となる連続区間を上記セパレータとして抽出するセパレータ抽出手段と、
上記リンク元オブジェクトにおける上記抽出されたセパレータの一側を上記項目文字列とする一方、他側を上記ページ番号文字列として分離して抽出するオブジェクト抽出手段を有していることを特徴とする自動オーサリング装置。 - 請求項1、請求項2、請求項3、請求項4又は請求項5に記載の自動オーサリング装置における各手段の機能をコンピュータに実行させるための自動オーサリングプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP36033298A JP3608965B2 (ja) | 1998-12-18 | 1998-12-18 | 自動オーサリング装置および記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP36033298A JP3608965B2 (ja) | 1998-12-18 | 1998-12-18 | 自動オーサリング装置および記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000181931A JP2000181931A (ja) | 2000-06-30 |
JP3608965B2 true JP3608965B2 (ja) | 2005-01-12 |
Family
ID=18468946
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP36033298A Expired - Fee Related JP3608965B2 (ja) | 1998-12-18 | 1998-12-18 | 自動オーサリング装置および記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3608965B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000037464A (ko) * | 2000-04-26 | 2000-07-05 | 김남철 | 구매자의 편집에 의한 맞춤전자책의 생성방법 및 그 장치 |
AU2001278720A1 (en) * | 2000-08-17 | 2002-02-25 | E Media Ltd. | Method of preparing publication, electronic publication using the method and displaying method therefor and network system |
JP2007213568A (ja) * | 2006-01-13 | 2007-08-23 | Brother Ind Ltd | データ構造 |
US8306326B2 (en) * | 2006-08-30 | 2012-11-06 | Amazon Technologies, Inc. | Method and system for automatically classifying page images |
JP4780169B2 (ja) * | 2008-09-30 | 2011-09-28 | ブラザー工業株式会社 | データ生成装置、スキャナ、及びコンピュータプログラム |
JP5433396B2 (ja) * | 2009-12-18 | 2014-03-05 | Kddi株式会社 | マンガ画像からテキストを抽出するマンガ画像解析装置、プログラム、検索装置及び方法 |
JP5993849B2 (ja) * | 2011-06-09 | 2016-09-14 | 達也 進藤 | 文書共有システム |
JP2013025456A (ja) | 2011-07-19 | 2013-02-04 | Sony Corp | 情報処理装置、情報処理方法、並びにプログラム |
JP2014075029A (ja) | 2012-10-04 | 2014-04-24 | Fuji Xerox Co Ltd | 情報処理装置及び情報処理プログラム |
WO2017009910A1 (ja) * | 2015-07-10 | 2017-01-19 | 楽天株式会社 | 電子書籍表示装置、電子書籍表示方法、及びプログラム |
JP6773844B1 (ja) * | 2019-06-12 | 2020-10-21 | 株式会社ポニーキャニオン | 情報処理端末及び情報処理方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08147314A (ja) * | 1994-11-17 | 1996-06-07 | Canon Inc | 認識型文書ファイリング装置及びその制御方法 |
JP2560656B2 (ja) * | 1995-09-11 | 1996-12-04 | 株式会社日立製作所 | 文書ファイリングシステム |
JPH09223240A (ja) * | 1996-02-14 | 1997-08-26 | Oki Electric Ind Co Ltd | 文書電子化装置 |
JPH10187751A (ja) * | 1996-12-24 | 1998-07-21 | Casio Comput Co Ltd | 認識データ処理装置およびそのプログラム記録媒体 |
JP3598711B2 (ja) * | 1997-02-21 | 2004-12-08 | 三菱電機株式会社 | 文書ファイリング装置 |
-
1998
- 1998-12-18 JP JP36033298A patent/JP3608965B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000181931A (ja) | 2000-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2973944B2 (ja) | 文書処理装置および文書処理方法 | |
EP1271392B1 (en) | Form identification apparatus and method | |
KR100311633B1 (ko) | 문서화상으로부터의타이틀추출장치및방법 | |
US7899249B2 (en) | Media material analysis of continuing article portions | |
EP0854433B1 (en) | Caption and photo extraction from scanned document images | |
US5737442A (en) | Processor based method for extracting tables from printed documents | |
EP0844583B1 (en) | Method and apparatus for character recognition | |
Al-Zaidy et al. | A machine learning approach for semantic structuring of scientific charts in scholarly documents | |
US20040220962A1 (en) | Image processing apparatus, method, storage medium and program | |
US6917708B2 (en) | Handwriting recognition by word separation into silhouette bar codes and other feature extraction | |
JP3608965B2 (ja) | 自動オーサリング装置および記録媒体 | |
CN110287784B (zh) | 一种年报文本结构识别方法 | |
KR19990036515A (ko) | 문자 인식/수정 방법 및 장치 | |
JP4991407B2 (ja) | 情報処理装置、その制御プログラムおよび該制御プログラムを記録したコンピュータ読み取り可能な記録媒体、ならびに制御方法 | |
CN110543810A (zh) | 一种完整识别pdf文件页眉页脚的技术 | |
JP2007122403A (ja) | 文書タイトルおよび関連情報の自動抽出装置、抽出方法および抽出プログラム | |
CN114359943A (zh) | Ofd版式文档段落识别方法及装置 | |
JP2003524258A (ja) | 電子ドキュメントを処理する方法および装置 | |
Ghosh et al. | R-PHOC: segmentation-free word spotting using CNN | |
JP3917349B2 (ja) | 文字認識結果を利用して情報を検索する検索装置および方法 | |
CN100444194C (zh) | 文章标题及关联信息的自动抽取装置和抽取方法 | |
CN110728240A (zh) | 一种对电子卷宗的标题自动识别的方法及装置 | |
JP3285686B2 (ja) | 領域分割方法 | |
CN112597267B (zh) | 一种基于模式识别的英文论文文档多粒度内容处理方法 | |
CN112560849B (zh) | 基于神经网络算法的文理分割方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041005 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041012 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071022 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081022 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081022 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091022 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091022 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101022 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111022 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121022 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |