JP3756719B2 - 文書修飾装置及び画像処理装置 - Google Patents

文書修飾装置及び画像処理装置 Download PDF

Info

Publication number
JP3756719B2
JP3756719B2 JP2000012034A JP2000012034A JP3756719B2 JP 3756719 B2 JP3756719 B2 JP 3756719B2 JP 2000012034 A JP2000012034 A JP 2000012034A JP 2000012034 A JP2000012034 A JP 2000012034A JP 3756719 B2 JP3756719 B2 JP 3756719B2
Authority
JP
Japan
Prior art keywords
area
modification
image
document
attribute
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000012034A
Other languages
English (en)
Other versions
JP2001203876A (ja
Inventor
真人 中島
幸基 坂田
純一 袴田
麻子 中津川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Riso Kagaku Corp
Original Assignee
Riso Kagaku Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Riso Kagaku Corp filed Critical Riso Kagaku Corp
Priority to JP2000012034A priority Critical patent/JP3756719B2/ja
Priority to US09/764,392 priority patent/US7085437B2/en
Priority to EP01101133A priority patent/EP1133159A3/en
Publication of JP2001203876A publication Critical patent/JP2001203876A/ja
Application granted granted Critical
Publication of JP3756719B2 publication Critical patent/JP3756719B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/40062Discrimination between different image types, e.g. two-tone, continuous tone

Description

【0001】
【発明の属する技術分野】
本発明は、文書等の原稿を読み取ることにより得られる画像データに修飾を施す文書修飾装置及びこの装置を備えた画像処理装置に関する。
【0002】
【従来の技術】
従来、文書修飾装置は、対象原稿の文字や写真などに網かけ、下線、或いは強調などの修飾を施すものである。
【0003】
この種の文書修飾装置の形態としては、タブレット・デジタイザ型、座標入力型、領域原稿読み込み型など各種のものが知られている。
【0004】
【発明が解決しようとする課題】
ところで、従来の文書修飾装置には以下に述べるような問題があった。タブレット・デジタイザ型では、オペレータが、デジタイザ上に原稿を置いてペンで任意の領域を指定し、指定した領域に施す修飾内容を指定した後に、原稿台に原稿を置き直す必要がある。従って、この型の装置には、修飾位置にずれが生じるという問題がある。
【0005】
座標入力型では、オペレータが原稿台に原稿を置いた状態で修飾したい領域が基準点から見てどの位置になるのかを予め測定しておき、その座標値を操作部で入力する必要がある。従って、この型の装置には、作業に手間がかかるという問題がある。
【0006】
領域原稿読み込み型では、オペレータが修飾を施す領域をマーカーペンなどで直接原稿にマークしておく必要がある。従って、この型には原稿を汚すという問題がある。
【0007】
そこで、従来の文書修飾装置が有する各種問題点を解決するものとして、原稿台にセットされた原稿を画像入力手段で読み取って表示装置に表示させ、オペレータがこの表示を見ながらペン入力又はキー入力で領域の指定を行うことができるプリスキャン画面表示型の方式が提案されている。
【0008】
特に、領域の切り出しと修飾情報の指示に、特開平4−157876公報に開示されている領域指定方法、即ち、原稿画像中の2値画像領域と中間調画像領域とを抽出して分布関係を表示することにより、領域指定を可能にする方法を採用することで、修飾の位置精度を向上させることができると共に、修飾指示時におけるオペレータの負担を軽減させることができる。
【0009】
ところが、上記特開平4−157876公報においては、対象となる原稿が文字と写真のみを含むものに限定されるため、表・枠内の文字の切り出しができない、更に、表のセルを切り出せないという問題があり、修飾を施す対象原稿が限定されてしまうという問題があった。
【0010】
本発明は、上述の如き従来の課題を解決するためになされたもので、その目的は、文字、写真、表、罫線、枠を含む各種原稿に対してオペレータの負担を軽減して効率良く修飾を行うことができる汎用性の高い文書修飾装置及びこの装置を備えた画像処理装置を提供することである。
【0011】
【課題を解決するための手段】
上記目的を達成するために、本発明の特徴は、画像入力手段によって読み取られた画像データに修飾を施す文書修飾装置において、前記画像データの中の画像情報の存在する領域を矩形領域として切り出す領域切出し手段と、前記領域切出し手段により切り出された矩形領域が少なくとも文字と写真の2種類よりも多い種類の属性のいずれであるかを判別する領域属性判別手段と、予め決められた少なくとも文字と写真の2種類よりも多い種類の属性のいずれかを持つ前記領域切出し手段により切り出された矩形領域の中から修飾を施したい矩形領域をオペレータに選択させる領域選択手段と、前記領域選択手段により選択された矩形領域を修飾する修飾の種類をオペレータに指示させる修飾指示手段と、前記画像データの中の前記領域選択手段により選択された矩形領域に前記修飾指示手段により指示された種類の修飾を施した画像を作成する修飾画像作成手段とを具備することにある。
【0012】
上記本発明の前記領域属性判別手段は、前記切り出された矩形領域の属性を文字、写真、表、罫線、枠のいずれかであるかを判別し、且つ前記予め決められた属性は、文字、写真、表、罫線、枠のいずれかである。
【0013】
また、本発明の特徴は、前記領域属性判別手段により文字と判別された矩形領域を、行、段落単位に統合し、前記領域選択手段は前記行、段落単位で修飾したい領域をオペレータに選択させることにある。
【0014】
上記本発明の前記領域選択手段は、前記領域切出し手段により切り出された矩形領域を前記読み取られた画像と共に表示し、表示した矩形領域に対して修飾を施すかどうかをオペレータに表示画面上で選択させる。
【0015】
上記本発明の前記領域選択手段は、前記読み取られた画像の中の前記矩形領域にカーソルを合わせ、このカーソルを合わせた矩形領域を点滅表示して修飾を施すかどうかの選択をオペレータに促し、修飾するか否かの選択が終了すると、前記カーソルを次の矩形領域に合わせることを順次行う。
【0016】
上記本発明の前記修飾指示手段は、修飾の種類を一覧としたメニュー情報を表示し、このメニュー情報で示された複数種類の修飾の中から前記選択された矩形領域に施す修飾をオペレータに指示させる。
【0017】
上記本発明の前記修飾画像作成手段は、前記領域選択手段により選択された矩形領域情報及び前記修飾指示手段により指示された種類の修飾情報を記憶する記憶手段を有し、前記読み取られた画像データに、前記記憶手段に記憶された前記矩形領域情報及び前記修飾情報に基づいて修飾を施こす。
【0018】
また、本発明の特徴は、前記読み取られた画像データの解像度を変換して縮小画像を生成する解像度変換手段と、前記解像度変換手段により生成された縮小画像と共に前記領域切出し手段により切り出された矩形領域を表示する表示手段とを設けたことにある。
【0019】
また、本発明の特徴は、画像入力手段によって読み取られた画像データに修飾を施す文書修飾装置において、前記画像データの中の画像情報の存在する領域を矩形領域として切り出す領域切出し手段と、前記領域切出し手段により切り出された矩形領域の領域属性を判別する領域属性判別手段と、前記領域切出し手段により切り出された矩形領域の中から前記領域属性判別手段により判別された属性を持つ矩形領域を選択した後、この選択した矩形領域に予め決められた種類の修飾を施すことを自動的に決定する自動修飾手段と、前記画像データの中の前記自動修飾手段により選択された矩形領域に、同自動修飾手段により決定された種類の修飾を施した画像を作成する修飾画像作成手段とを具備することにある。
【0020】
上記本発明の前記自動修飾手段は、前記切り出された矩形領域の属性と共にこの矩形領域の画像データ内の位置も考慮して、この矩形領域に施す修飾の種類を決定する。
【0021】
上記本発明の前記領域属性判別手段の判別する領域属性は、文字、写真、表、罫線、枠のいずれかである。
【0022】
上記本発明の前記画像入力手段は読み取った画像を2値化する。
【0023】
また、本発明の特徴は、原稿から画像データを読み取って入力する画像入力手段と、前記画像入力手段により入力した画像データに修飾を施こして修飾画像を作成する上記記載の文書修飾装置のいずれかと、前記文書修飾装置により作成した修飾画像を出力する画像出力手段とを具備することにある。
【0024】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。図1は、本発明の文書修飾装置を備えた画像処理装置の第1の実施の形態を示したブロック図である。
【0025】
画像処理装置は、修飾対象原稿を読み取って入力する画像入力手段1、入力された原稿の画像の文字、写真、表、罫線、枠などの領域を切り出す自動領域切出し手段(請求の範囲の領域切出し手段及び領域属性判別手段に相当)2、前記切り出された領域の位置情報や切り出された領域に施す各種修飾情報等を記憶する修飾情報記憶手段3、入力原稿の画像や入力原稿の画像から各領域を切り出した画像、オペレータが修飾を指示する画像、最終的に修飾された画像等を表示する表示手段4、表示手段4に表示された画像の中の前記切り出された領域に対して所望の修飾をオペレータにより指示させる操作手段5、入力原稿の画像にオペレータが指示した修飾を施した画像を作成する修飾画像作成手段6、修飾された画像を用紙等に印刷して出力する画像出力手段7を有している。
【0026】
図2は図1に示した自動領域切出し手段2の詳細構成例を示したブロック図である。自動領域切出し手段2は、原画像データを2値化する2値化手段21、2値化画像の黒画素を連結する黒画素連結手段22、2値化画像の黒画素塊の輪郭画像を得る輪郭追跡手段23、前記得られた輪郭画像に外接する矩形の位置情報や原画像データの矩形領域に対する行、段落や、プロジェクション処理された矩形領域のセル、行、列及び枠内の画像データの属性毎に切り出された領域の位置情報を記憶する矩形情報記憶手段24、記憶された矩形の位置情報に基づき、重なったり近接している矩形領域を統合する近接矩形統合手段25、前記統合された各矩形領域が文字や罫線などのいずれの属性に該当するかを判別する文字・罫線判別手段26、文字以外の属性の原画像データの矩形領域に対してプロジェクションを取るプロジェクション手段27、属性が文字の原画像データの矩形領域に対して行、段落を抽出する行、段落抽出手段28、プロジェクション処理された矩形領域に対して表、写真、枠のいずれであるかを判別する表、写真、枠判別手段29、表、写真と判別された矩形領域からセル、行、列を抽出するセル・行・列抽出手段30、枠と判断された矩形領域の枠内の画像データの属性毎に領域を切り出す属性別領域切出し手段31を有している。尚、矩形情報記憶手段24の記憶内容が図1の修飾情報記憶手段3に出力されて記憶される。
【0027】
図3は図1に示した操作手段5の詳細構成例を示したブロック図である。操作手段は、表示手段4に表示されている切り出し領域に対して修飾対象となる領域を選択し、また修飾内容を決定する場合に修飾内容を指示する指示手段52、修飾情報記憶手段3に記憶された切り出し領域の位置情報と指示手段52による指示内容とから、カーソルを順次移動して修飾領域を選択する修飾領域選択手段51、表示手段4に表示されている切り出し領域で、修飾の指示がある領域に修飾内容(修飾の種類)のメニュー(修飾情報記憶手段3から修飾内容情報を貰う)を表示すると共に、指示された修飾内容を修飾情報記憶手段3に記憶させる修飾内容選択手段53を有している。
【0028】
次に本実施の形態の動作について説明する。例えば被修飾原稿を画像入力手段1により読み取ると、入力画像は図4に示すような画像となって画像入力手段1内の画像メモリ(画像記憶手段)11に一旦記憶される。ここで、前記入力画像は、オペレータのプリスキャン指示により、原稿に照射した光の反射光がCCDなどのラインセンサで電気信号(濃度信号)に変換されることで得られる。
【0029】
その後、上記した画像メモリ11に記憶された入力画像は自動領域切出し手段2、表示手段4、修飾画像作成手段6に入力される。
【0030】
自動領域切出し手段2は、入力画像の原画像データが「文字」、「写真」、「表」、「罫線」、「枠」のいずれかの属性に該当する矩形領域に分類されるかを判断して各領域を切出し、更に、文字領域については行又は段落単位に、表領域についてはセル、行、列、表全体にグループ化して、得られた情報を修飾情報記憶手段3に記録する。
【0031】
自動領域切出し手段2は、本例の特徴である各種の属性の画像領域に修飾を施すための重要な役割を担っているため、以下、詳細にその領域切出し動作を図2を参照して説明する。
【0032】
2値化手段21は、画像入力手段1の画像メモリ11から入力される例えば図5に示すような原画像データを2値化して2値データを得る。尚、原画像データは、これを2値化した時に行間が認識できるような解像度で読み取られたものである必要がある。本実施の形態では、100dpiの解像度でプリスキャンが行なわれている。
【0033】
黒画素連結手段22は、2値データを主走査方向にスキャンし、連続して現れる白画素が4画素(3pt)以下である場合、この連続して現われた白画素を黒画素に変換し、図6に示すような、黒画素塊が連結された画像を得る。尚、この黒画素連結処理を行わずに、後述する輪郭追跡処理を行ってもよい。
【0034】
但し、黒画素連結処理を行うと、後述する近接矩形統合処理が正しく行われない原因となる恐れのある細かい領域を除去でき、また、黒画素塊の総数を減らすことができるため、後述する矩形情報記憶手段23に記憶するデータ容量を縮小することができる。
【0035】
輪郭追跡手段23は、一般的に知られている黒画素塊の輪郭を追跡する方法で外接矩形の切出しを行う(例えば、「ディジタル画像処理」Rosenfeld,KoK著、長尾真監訳、近代科学社P353〜360参照)。具体的には、黒画素連結処理後の画像データを主走査方向にスキャンし、検出された黒画素の座標を追跡開始座標として再びこの追跡開始点に戻るまで黒画素塊の輪郭を追跡して、輪郭画像を得る。この輪郭画像に外接する矩形の位置情報が矩形情報記憶手段24に記憶される。尚、本実施の形態においては、既に検出されている矩形領域内の画像を読み飛ばしてスキャンすることで、処理時間の短縮を図っている。
【0036】
近接矩形統合手段25は、矩形情報記憶手段24に記憶されている位置情報に基づき、重なりのある矩形領域や近接している矩形領域を統合する。更に、統合が行われた場合、矩形情報記憶手段24に記憶されている位置情報を統合した矩形の外接矩形の位置情報に更新する。この統合により、図7に示すような、外接矩形画像を得る。尚、本実施の形態においては、近接している矩形領域の条件を、外接矩形間の最も近接している部分の距離が3画素(2pt)以下であることとしている。
【0037】
上記の処理により切り出された領域の、「文字」、「写真」、「表」、「罫線」、「枠」のいずれかへの分類は、以下のように行われるが、その動作を図8のフローチャートを参照して説明する。
【0038】
文字・罫線判別手段26は、矩形情報記憶手段24に記憶されている矩形領域の位置情報から、各矩形領域の高さHs、幅Ws、縦横比(幅に対する高さ、高さに対する幅)Hs/Ws、Ws/Hsをそれぞれ算出する。更に、文字・罫線判別手段26はこの高さHs、幅Ws、縦横比Hs/Ws、Ws/Hsと第1、2、3の閾値とを比較し、図9の表に示した条件と属性に基づき、各矩形領域がステップS1にて、「文字」、「罫線」、「その他」のいずれの属性に該当するかを判別する。この属性判別結果(文字、罫線)はステップS2〜S4にて矩形情報記憶手段23に記録され、更にステップS5にて未判別の矩形領域がなくなるまで処理を繰り返す。
【0039】
ここで、筆者等が複数の原稿を用いて検討したところ、属性が「文字」である矩形領域の高さHsは6pt以上48pt未満であり、属性が「罫線」である矩形領域の高さHsは6pt未満且つ縦横比Hs/Ws、Ws/Hsは16倍以上である場合が多いことが分かった。そこで、本実施の形態においては、第1の閾値Tk=8(6Pt)、第2の閾値Tr=16、第3の閾値Tc=66(48pt)にそれぞれ設定している。
【0040】
次に「その他」と判別された矩形領域に対する処理について説明する。
【0041】
プロジェクション手段は、ステップS6にて画像入力手段1の画像メモリ11に記憶されている、該矩形領域に該当する原画像データの縦・横方向のプロジェクションをとる。
【0042】
ここで得られるプロジェクションデータは、図10(A)〜(C)に示す如くである。
【0043】
プロジェクションデータの特徴、具体的には、「罫線」に該当する矩形領域の高さHs又は幅Wsに対して十分に高く幅の狭いピークの数に応じて、表・写真・枠判別手段29は、図11の表に示した条件と属性に基づき、各矩形領域の属性が「表」、「写真」、「枠」のいずれであるかをステップS7にて判別する。例えば、図10(A)において、横方向のプロジェクションデータからひとつのピークが検出される。これにより、この矩形領域の属性は「写真」であると判別される。
【0044】
また、同図(B)においては、縦・横方向プロジェクションデータからそれぞれ4つのピークが検出される。これにより、この矩形領域の属性は「表」であると判別される。
【0045】
更に、同図(C)においては、縦・横方向プロジェクションデータからそれぞれ2つのピークが検出される。これにより、この矩形領域の属性は「枠」であると判別される。属性判別結果は、ステップS8〜S10にて矩形情報記憶手段23に記録される。
【0046】
ここで、上記処理により、「表」と属性判別された矩形領域に対する処理は、プロジェクションデータのピーク位置に基づいてセルの位置を決定し、セル、行(セルを行方向に連結したもの)、列(セルを列方向に連結したもの)の位置情報を矩形情報記憶手段24に記録する。
【0047】
「枠」と属性判別された矩形領域に対する処理は、枠内の画像データに対して、黒画素検出、輪郭追跡、外接矩形検出、近接矩形統合、属性判別の一連の処理をステップS11、12にて再帰的に行う。これにより、図12に示すように、枠内の画像データについても、「文字」、「写真」、「表」、「罫線」のいずれかの属性に該当する矩形領域が切り出される。
【0048】
「文字」と属性判別された矩形領域に対する処理は、ステップS13にて、各矩形領域の副走査方向の座標に基づき、同じ行に含まれる可能性のある矩形領域を抽出し、以下に示す条件を全て満たしていればグループ化する。
【0049】
ここで、一般に、文書原稿は、行間隔を文字高さの0.5倍、段組間隔を文字高さの3倍に設定すると読み易いといわれている。そこで、本実施の形態ではこれらの値をグループ化の条件に使用している。
【0050】
(A)「行」の抽出条件(図13(A)〜(C)参照)
ここで、図13(A)は矩形の副走査方向の間隔が文字高さの0.5倍以内にある抽出条件を示し、(B)は矩形の主走査方向の間隔が段組間隔以内且つ文字高さの3倍以内にある抽出条件を示し、(C)は対象矩形をグループ化した時、文字以外の矩形領域と重ならない抽出条件を示している。
【0051】
条件1:矩形領域の副走査方向の間隔が文字高さの0.5倍以内
条件2:矩形領域の主走査方向の間隔が段組間隔以内且つ文字高さの3倍以内
条件3:グループ化したとき文字以外の属性の矩形領域と重ならない
未処理の矩形領域がなくなるまで、グループ化処理を繰り返す。これにより、図14に示すように、行単位で矩形領域が切り出される。
【0052】
行の抽出後、以下に示す条件をすべて満たしていれば更にグループ化する。
【0053】
(B)「段落」の抽出条件(図15(A)〜(B)、図16(A)〜(C)参照)
ここで、図15(A)は主走査方向に重なりがある抽出条件を示し、図15(B)は行矩形の副走査方向の間隔が文字高さに対して1.5倍以内にある抽出条件を示し、図16(A)は行矩形の高さの差が3pt以内の抽出条件を示し、図16(B)は字下げがある場合の抽出条件を示し、図16(C)は対象行をグループ化したときにその行以外の矩形と重ならない抽出条件を示している。
【0054】
条件1:主走査方向に重なりがある
条件2:行の副走査方向の間隔が文字高さの1.5倍以内
条件3:行の高さの差が3pt以内
条件4:字下げがない
条件5:グループ化したとき行以外の領域と重ならない
未処理の矩形領域がなくなるまでステップS13にて、グループ化処理を繰り返す。これにより、段落が抽出される。
【0055】
以上の処理により、原画像データが、図17に示すように「文字」、「写真」、「表」、「罫線」、「枠」のいずれかの属性に該当する矩形領域に分類される。更に、文字領域については行又は段落単位、表領域についてはセル、行、列、表全体にグループ化される。
【0056】
上記自動領域切出し手段2の処理によって得られる原画像データの領域切出し情報(位置情報)及び切り出された領域の詳しい属性情報等が修飾情報記憶手段3に記憶される。上記した領域切り出し及び属性判別終了後に、表示手段4の液晶パネルには、原画像データの縮小画像、矩形領域を選択するためのカーソル、現在選択されている矩形領域等が図18に示すように作成表示される。
【0057】
図18に示した表示手段4の表示画面では、原稿表示エリア61にプリスキャンされた画像が表示装置の幅に合わせて表示され、メッセージエリア62に操作内容や修飾の状況などが表示される。又、表示手段4の画面上で、63は領域の選択、修飾内容の選択を行うカーソルキー、62a,62bは領域の確定、修飾内容の確定、或いは確定内容の取り消しを行う決定キー、F1〜F4は状況に応じた機能を果たすファンクションキーを示しており、操作手段5の指示手段52を構成している。
【0058】
尚、本実施の形態の表示手段4として低解像度(320×240dot)の液晶パネルを採用している。低解像度のデバイスを使用する場合、原稿を縮小しないで表示すると、原稿の一部分しか表示されず、上下・左右方向ともにスクロールを必要とする。そのため、原稿のどの部分が表示されているかをオペレータが把握し難くなり、操作性が低下するという問題がある。また、原稿を縮小して全画面表示すると、スクロールの必要はなくなるが、視認性が悪くなる。
【0059】
そこで、本実施の形態においては、原画像データの解像度を変換して原画像データの幅を液晶パネルの幅に合致するように縮小し、上下方向のみのスクロールを行い、原稿を縮小しないで表示する場合に比して操作性を向上させている。また、原稿を縮小して全画面表示する場合に比して視認性を向上させている。
【0060】
オペレータは上記した表示手段4の表示を見ながら以下に述べるような修飾指示を行うが、その手順を図22に示したフローチャートを参照して説明する。
【0061】
まず、図18の表示画像において,当初は修飾領域選択手段51によりラスター順で最初の切り出し領域(矩形領域)にカーソルが合わせて表示されている。
【0062】
(1)オペレータは、ステップS21にて、指示手段52のカーソルキー63を操作して、修飾したい矩形領域にカーソルを移動する。この状態の画面は例えば図19で、カーソルが合っている矩形領域は反転点滅表示される。カーソルのある矩形領域が修飾したい領域であった場合、オペレータはステップS22にて決定キー64bを押して、修飾したい領域の選択を行う。選択領域を間違えた場合は取消しキー64aを押せば、選択領域が解除される。ステップS23で指示終了となるまで、オペレータは修飾を施したい全ての矩形領域に対して、これらのキー63、64aおよび64bを用いて、上記操作を繰り返して行う。
【0063】
この操作により、修飾対象領域が確定されて反転表示される。カーソルの移動先の矩形領域は修飾領域選択手段51により、現在参照している矩形の位置情報と押されたカーソルキー63の方向から決定される。また、オペレータは、選択の単位を指示手段52の切換キー(図示せず)で、文字領域において行、若しくは段落、表領域においてはセル、行、列、若しくは表全体と切り換えることができる。
【0064】
(2)オペレータが、カーソルを当該矩形領域から移動させずに、再度決定キー64bを押すか、或いはファンクションキーF2(修飾)を押すと、図20に示すように画面に修飾メニューが切り換え表示される。オペレータは、カーソルキー61で修飾メニュー内のカーソルを移動させて修飾内容(修飾の種類)を選択し、ステップS24で決定キー64bを押して修飾内容を指示する。
【0065】
ステップS24で、修飾対象領域に対して修飾内容が決定されると、修飾領域選択手段51により、該当の矩形の位置情報が取得されると共に、修飾内容選択手段53により修飾内容が選択されて、これらの情報が修飾情報記憶手段3に記録される。これと同時に、表示手段4の画面に原画像データの縮小画像と選択した矩形領域に指示した修飾内容を示すアイコンとの作成画像が図21に示すように表示される。
【0066】
尚、本実施形態においては、修飾内容として、網掛け、消去、写真、反転、枠掛け、下線、白抜き、抽出(選択された領域を除く領域を全て消去)を選択できるようにしている。上記修飾操作はステップS25で修飾終了と判定されるまで、繰り返し行われる。
【0067】
(3)修飾指示が終了した後、オペレータがステップS26で、メインスキャンを指示する。
【0068】
メインスキャンが指示されると、修飾画像作成手段6は、画像入力手段1から所定の解像度(例えば、400dpi)で原画像データを取り込み、取り込んだ原画像データの1画素毎に修飾情報記憶手段3から修飾内容を読み出し、読み出した修飾内容に応じて自動切出し手段2において施される所定の処理画像(単純2値化処理、写真処理、反転処理等)を選択する。例えば、修飾内容が写真である場合は写真処理画像、反転である場合は反転処理画像である。
【0069】
更に、修飾内容が網掛け、枠掛け、下線であればそれぞれの修飾にあったマスクパターンを作成する。この画像が画像出力手段7によって用紙に印刷されて出力される。
【0070】
以上のように本実施の形態においては、オペレータが、予め記憶されている修飾内容と対応付ける修飾対象領域を、「文字」、「写真」、「表」、「罫線」、「枠」のいずれかの属性に該当する矩形領域として選択することができる。即ち、文書修飾に用いる原稿を、「文字」、「写真」、「表」、「罫線」、「枠」が混在するものにまで拡大でき、オペレータに負担を掛けること無く極めて効率良く画像の修飾を行うことができると共に、装置の汎用性を向上させることができる。
【0071】
図23は、本発明の文書修飾装置を備えた画像処理装置の第2の実施の形態を示したブロック図である。画像処理装置は、修飾対象原稿を読み取って入力する画像入力手段1、入力された原稿の画像の文字、写真、表、罫線、枠などの領域を切り出す自動領域切出し手段2、前記切り出された領域の切り出し情報を記憶する修飾情報記憶手段3、修飾情報記憶手段3からの切り出し領域情報(位置情報と属性情報)に基づいて入力原稿画像の各矩形領域に修飾を自動的に施す自動修飾手段8、入力原稿の画像に自動修飾手段8により決定された修飾を施した画像を作成する修飾画像作成手段6、修飾が施された画像を表示する表示手段4、修飾された画像を用紙等に印刷して出力する画像出力手段7を有している。但し、図1に示した第1の実施の形態と同様の部分には同一符号を付して説明する。
【0072】
次に本実施の形態の動作について説明する。本例の構成は第1の実施の形態の同様であるが、異なるところは、第1の実施の形態ではオペレータが修飾指示を行うのに対して、本例では、自動修飾手段8により、入力画像の自動切り出し領域に対して、自動的に修飾が施されるという点にある。以下、この異なる点について主に説明する。
【0073】
画像入力手段1により読み取られた画像は画像入力手段1内の画像メモリ(画像記憶手段)11に一旦記憶される。その後、上記した画像メモリ11に記憶された入力画像は自動領域切出し手段2及び修飾画像作成手段6に入力される。
【0074】
自動領域切出し手段2は、入力画像から「文字」、「写真」、「表」、「罫線」、「枠」のいずれかの属性に該当する矩形領域を切り出し、この切り出し領域情報(切り出し位置情報、切り出した領域の属性情報)を修飾情報記憶手段3に記憶する。
【0075】
自動修飾手段8はメモリで構成され、例えば図24に示すような自動修飾情報として、属性又は切り出した領域の位置対応に修飾内容(修飾の種類)が設定されたテーブルを記憶しており、このテーブルに基づいて入力画像の切り出し領域に施す修飾内容を決定する。例えば、自動修飾手段8は修飾情報記憶手段3に記録されている属性と特徴に従い修飾内容(例えば、「見出し」には反転、「表の項目」には網掛け)を施すことを決定する。
【0076】
修飾画像作成手段6は、自動修飾手段8によって決定された修飾内容、例えば反転、網かけなどを該当の矩形領域に施し、入力画像にそれぞれの修飾にあったマスクパターンを作成することにより、修飾が施された画像を作成し、これを表示手段4及び画像出力手段7に出力する。オペレータは表示手段4に表示された修飾画像を見て修飾内容を確認することができる。画像出力手段7は、修飾を施した画像を用紙に印刷して出力する。尚、自動修飾手段8に記憶されているテーブルの内容は、別途、オペレータにより変更ができるようにしても良い。
【0077】
以上のように、本実施の形態によれば、「文字」、「写真」、「表」、「枠」、「罫線」等の属性に該当する矩形領域を切り出し、「タイトル」、「見出し」、「表の項目」等の特徴といった情報に基づいて、前記切り出し領域に予め設定されているテーブルデータに従った修飾を前記切り出し領域に自動的に施すことができる。
【0078】
従って、本例は、通常、属性に対する修飾内容が固定であるような原稿(チラシなど)に対して特に有効で、人手を介すること無く、自動的に効率良く、原稿に所定の修飾を施すことができる。
【0079】
尚、上記実施の形態では表示手段を設けたが、これは必ずしも必要ではなく、表示手段を省略した構成にても同様の効果がある。
【0080】
又、上記第1、第2の実施の形態では、横書きの原稿を例にとって説明しているが、主走査方向と副走査方向との処理を入れ替えることで、縦書きの原稿にも対応可能である。
【0081】
更に、上記第1、第2の実施の形態では、表示手段4として液晶パネルを採用しているが、これに限らず、CRTディスプレイを用いてもよい。また、第1の実施の形態の操作手段5の指示手段52として、キー入力方式を採用しているが、指示手段52はこの方式に限らず、マウスやタッチパネルなどを用いてもよい。
【0082】
又、上記第1、第2の実施の形態では、属性判別結果が「文字」である場合、行単位又は段落単位で修飾を施すことができるものであるが、行高さから文字間隔を推定して文字の切り出し処理を行い、文字単位で修飾を施すことができるようにしてもよい。
【0083】
更に、上記第1、第2の実施の形態では、プリスキャン時に画像入力手段1により2値画像データを直接取り込むことができるのであれば、2値化手段21を省いてもよいし、多値データを扱えるものであれば、多値データに対して領域を切り出して修飾を施すこともできる。
【0084】
【発明の効果】
以上詳細に説明したように、本発明によれば、文字、写真、表、罫線、枠などの各種属性の矩形領域を入力画像から切り出すことができるため、文書修飾に用いる原稿を文字、写真、表、罫線、枠等を混在するものにまで拡大でき、効率良く画像の修飾を行うことができると共に、装置の汎用性を向上させることができる。
【0085】
また、本発明によれば、行単位で修飾の指示を行えるのでオペレータの負担を軽減して画像の修飾操作時間も短縮することができる。
【0086】
また、本発明によれば、入力画像と共に、切り出された矩形領域が表示されるため、修飾する矩形領域を容易且つ効率的に選択することができる。
【0087】
また、本発明によれば、切り出された矩形領域が点滅表示されるため、修飾すべき矩形領域を見落とすこと無く、修飾する矩形領域を円滑に選択することができる。
【0088】
また、本発明によれば、一覧となって表示される修飾の種類の中から選択した矩形領域に施す修飾を指示すれば良く、修飾の指示を容易に行うことができる。
【0089】
また、本発明によれば、画像を縮小することにより、表示手段の液晶パネルの画面サイズに合わせて入力画像や切り出された矩形領域を表示することができ、矩形領域の選択や修飾の指示の際の操作性を向上させることができる。
【0090】
また、本発明によれば、入力画像の修飾を施すべき矩形領域を自動的に選択し、且つ修飾の種類も自動的に決定するため、オペレータが修飾指示を行うことなく、画像の修飾を行うことができ、人手を省くことができる。
【0091】
また、本発明によれば、文字、写真、表、罫線、枠などを含む各種の原稿に対して容易に修飾を施すことができ、効率良く画像の修飾を行うことができると共に、装置の汎用性を向上させることができる。
【図面の簡単な説明】
【図1】本発明の文書修飾装置を備えた画像処理装置の第1の実施の形態を示したブロック図である。
【図2】図1に示した自動領域切出し手段の詳細構成例を示したブロック図である。
【図3】図1に示した操作手段の詳細構成例を示したブロック図である。
【図4】入力画像の一例を示した図である。
【図5】入力画像、その2値化画像、輪郭検出後の輪郭検出画像及び属性判別処理後の画像例を示した図である。
【図6】入力画像、その2値化画像、輪郭検出後の輪郭検出画像及び属性判別処理後の画像例を示した図である。
【図7】入力画像、その2値化画像、輪郭検出後の輪郭検出画像及び属性判別処理後の画像例を示した図である。
【図8】自動領域切出し手段における領域属性判別処理手順を示したフローチャートである。
【図9】切り出し矩形領域が、文字、罫線、その他のいずれの属性であるかを判別するためのデータを示した表図である。
【図10】プロジェクション処理後の画像例を示した図である。
【図11】切り出し矩形領域が、写真、表、枠の属性のいずれかであるかを判別するためのデータを示した表図である。
【図12】属性毎に切り出された矩形領域例を示した図である。
【図13】矩形領域内の行を抽出する条件を示した図である。
【図14】切り出し領域の属性例を示した図である。
【図15】矩形領域内の段落を抽出する条件を示した図である。
【図16】矩形領域内の段落を抽出する条件を示した図である。
【図17】領域切出し手段による領域切り出し結果例を示した図である。
【図18】表示手段に表示された画面例を示した図である。
【図19】表示手段に表示された他の画面例を示した図である。
【図20】表示手段に表示された他の画面例を示した図である。
【図21】表示手段に表示された他の画面例を示した図である。
【図22】オペレータによる修飾領域の選択と修飾内容の指示手順を示したフローチャートである。
【図23】本発明の文書修飾装置を備えた画像処理装置の第2の実施の形態を示したブロック図である。
【図24】図23に示した自動修飾手段に設定されているテーブルデータ例を示した図である。
【符号の説明】
1 画像入力手段
2 自動領域切出し手段
3 修飾情報記憶手段
4 表示手段
5 操作手段
6 修飾画像作成手段
7 画像出力手段
8 自動修飾手段
11、41 画像メモリ
21 2値化手段
22 黒画素連結手段
23 輪郭追跡手段
24 矩形情報記憶手段
25 近接矩形統合手段
26 文字・罫線判別手段
27 プロジェクション手段
28 行・段落抽出手段
29 表・写真・枠判別手段
30 セル・行・列抽出手段
31 属性別領域切出し手段
51 修飾領域選択手段
52 指示手段
53 修飾内容選択手段

Claims (14)

  1. 画像入力手段によって読み取られた画像データに修飾を施す文書修飾装置において、
    前記画像データから、修飾を施す単位としての複数の領域を切り出す領域切出し手段と、
    前記複数の領域の中から修飾を施したい領域をオペレータに選択させる領域選択手段と、
    前記領域選択手段により選択された領域を修飾する修飾の種類をオペレータに指示させる修飾指示手段と、
    前記画像データの中の前記領域選択手段により選択された領域に前記修飾指示手段により指示された種類の修飾を施した画像を作成する修飾画像作成手段と、を具備し、
    前記領域切り出し手段が、前記複数の領域の画像データの縦・横方向のプロジェクションデータを取るプロジェクション手段と、上記プロジェクションデータから検出されたピークの数に従って、前記複数の領域の属性が表および写真および枠のいずれかを判別する第2の判別手段とからなることを特徴とする文書修飾装置。
  2. 前記領域切出し手段は、前記領域を矩形領域として切り出すものであり、さらに、前記矩形領域の属性が文字、罫線、その他のいずれかを判別する第1の判別手段を具備し、前記第2の判別手段は、前記矩形領域の属性がその他の場合に、上記プロジェクションデータから検出されたピークの数に従って、前記矩形領域の属性が表および写真および枠のいずれかを判別することを特徴とする請求項1記載の文書修飾装置。
  3. 前記第1および第2の判別手段は、前記切り出された矩形領域の属性を文字、写真、表、罫線、枠のいずれかであるかを判別することを特徴とする請求項2記載の文書修飾装置。
  4. 前記領域切出し手段は、前記第1の判別手段により文字と判別された矩形領域を、行、段落単位に統合するものであり、前記領域選択手段は、前記行、段落単位で修飾したい領域をオペレータに選択させるものであることを特徴とする請求項3記載の文書修飾装置。
  5. 前記領域選択手段は、前記領域切出し手段により切り出された矩形領域を前記読み取られた画像と共に画面上に表示し、表示した矩形領域に対して修飾を施すかどうかをオペレータに選択させることを特徴とする請求項乃至4いずれかに記載の文書修飾装置。
  6. 前記修飾指示手段は、修飾の種類を一覧としたメニュー情報を表示し、このメニュー情報で示された複数種類の修飾の中から前記選択された矩形領域に施す修飾をオペレータに指示させることを特徴とする請求項乃至5いずれかに記載の文書修飾装置。
  7. 前記修飾画像作成手段は、前記領域選択手段により選択された矩形領域の位置情報及び前記修飾指示手段により指示された種類の修飾情報を記憶する記憶手段を有し、
    前記読み取られた画像データに対して、前記記憶手段に記憶された前記位置情報及び前記修飾情報に基づいた修飾を施すことを特徴とする請求項乃至6いずれかに記載の文書修飾装置。
  8. 前記読み取られた画像データの解像度を変換して縮小画像を生成する解像度変換手段と、
    前記解像度変換手段により生成された縮小画像と共に前記領域切出し手段により切り出された矩形領域を表示する表示手段と、
    を設けたことを特徴とする請求項乃至7いずれかに記載の文書修飾装置。
  9. 画像入力手段によって読み取られた画像データに修飾を施す文書修飾装置において、
    前記画像データから、修飾を施す単位としての複数の領域を切り出す領域切出し手段と、
    前記複数の領域の中から判別された属性を持つ領域を選択した後、この選択した領域に予め決められた種類の修飾を施すことを自動的に決定する自動修飾手段と、
    前記画像データの中の前記自動修飾手段により選択された領域に、同自動修飾手段により決定された種類の修飾を施した画像を作成する修飾画像作成手段と、 を具備し、
    前記領域切り出し手段が、前記複数の領域の画像データの縦・横方向のプロジェクションデータを取るプロジェクション手段と、上記プロジェクションデータから検出されたピークの数に従って、前記複数の領域の属性が表および写真および枠のいずれかを判別する第2の判別手段とからなることを特徴とする文書修飾装置。
  10. 前記領域切出し手段は、前記領域を矩形領域として切り出すものであり、さらに、前記矩形領域の属性が文字、罫線、その他のいずれかを判別する第1の判別手段を具備し、前記第2の判別手段は、前記矩形領域の属性がその他の場合に、上記プロジェクションデータから検出されたピークの数に従って、前記矩形領域の属性が表および写真および枠のいずれかを判別することを特徴とする請求項9記載の文書修飾装置。
  11. 前記自動修飾手段は、前記切り出された領域の属性と共にこの領域の画像データ内の位置も考慮して、この領域に施す修飾の種類を決定することを特徴とする請求項9記載の文書修飾装置。
  12. 前記第1および第2の判別手段の判別する領域属性は、文字、写真、表、罫線、枠のいずれかであることを特徴とする請求項10記載の文書修飾装置。
  13. 前記画像入力手段は読み取った画像を2値化することを特徴とする請求項1乃至12いずれかに記載の文書修飾装置。
  14. 原稿から画像データを読み取って入力する画像入力手段と、
    前記画像入力手段により入力した画像データに修飾を施して修飾画像を作成する請求項1乃至13いずれかに記載の文書修飾装置と、
    前記文書修飾装置により作成した修飾画像を出力する画像出力手段と、
    を具備することを特徴とする画像処理装置。
JP2000012034A 2000-01-20 2000-01-20 文書修飾装置及び画像処理装置 Expired - Fee Related JP3756719B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2000012034A JP3756719B2 (ja) 2000-01-20 2000-01-20 文書修飾装置及び画像処理装置
US09/764,392 US7085437B2 (en) 2000-01-20 2001-01-19 Document modification apparatus and image processing apparatus
EP01101133A EP1133159A3 (en) 2000-01-20 2001-01-19 Document modification apparatus and image processing appparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000012034A JP3756719B2 (ja) 2000-01-20 2000-01-20 文書修飾装置及び画像処理装置

Publications (2)

Publication Number Publication Date
JP2001203876A JP2001203876A (ja) 2001-07-27
JP3756719B2 true JP3756719B2 (ja) 2006-03-15

Family

ID=18539810

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000012034A Expired - Fee Related JP3756719B2 (ja) 2000-01-20 2000-01-20 文書修飾装置及び画像処理装置

Country Status (3)

Country Link
US (1) US7085437B2 (ja)
EP (1) EP1133159A3 (ja)
JP (1) JP3756719B2 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3904840B2 (ja) * 2000-08-15 2007-04-11 富士通株式会社 多値画像から罫線を抽出する罫線抽出装置
US20030063575A1 (en) * 2001-09-28 2003-04-03 Fuji Photo Film Co., Ltd. Order processing apparatus, order processing system and image photographing device
DE10345526A1 (de) * 2003-09-30 2005-05-25 Océ Document Technologies GmbH Verfahren und System zum Erfassen von Daten aus maschinell lesbaren Dokumenten
DE10357490A1 (de) * 2003-12-09 2005-07-21 OCé PRINTING SYSTEMS GMBH Verfahren und System zum Verarbeiten von Druckdaten mindestens einer Druckseite
JP2006023944A (ja) * 2004-07-07 2006-01-26 Canon Inc 画像処理システム及び画像処理方法
JP4227569B2 (ja) * 2004-07-07 2009-02-18 キヤノン株式会社 画像処理システム、画像処理装置の制御方法、プログラム及び記録媒体
JP2006025129A (ja) * 2004-07-07 2006-01-26 Canon Inc 画像処理システム及び画像処理方法
JP2006023945A (ja) * 2004-07-07 2006-01-26 Canon Inc 画像処理システム及び画像処理方法
JP4208780B2 (ja) * 2004-07-07 2009-01-14 キヤノン株式会社 画像処理システム及び画像処理装置の制御方法並びにプログラム
US7593603B1 (en) 2004-11-30 2009-09-22 Adobe Systems Incorporated Multi-behavior image correction tool
US7653244B2 (en) * 2005-02-22 2010-01-26 Potts Wesley F Intelligent importation of information from foreign applications user interface
JP4577058B2 (ja) * 2005-03-23 2010-11-10 富士ゼロックス株式会社 印刷制御装置および方法およびプログラム
US20070247647A1 (en) * 2006-04-21 2007-10-25 Daniel Pettigrew 3D lut techniques for color correcting images
JP4743154B2 (ja) * 2006-07-05 2011-08-10 セイコーエプソン株式会社 文書編集装置、プログラムおよび記憶媒体
JP4240107B2 (ja) 2006-10-27 2009-03-18 コニカミノルタビジネステクノロジーズ株式会社 領域判定方法、領域判定装置、画像処理装置、およびコンピュータプログラム
JP4674617B2 (ja) 2008-06-18 2011-04-20 コニカミノルタビジネステクノロジーズ株式会社 画像形成装置、画像形成方法および画像形成プログラム
JP5046243B2 (ja) * 2008-09-17 2012-10-10 株式会社リコー 画像処理装置、画像処理方法、およびプログラム
JP5222126B2 (ja) * 2008-12-25 2013-06-26 キヤノン株式会社 画像処理方法、画像処理装置及びプログラム
JP5057480B2 (ja) * 2009-06-30 2012-10-24 キヤノンマーケティングジャパン株式会社 画像形成装置、画像形成方法、プログラム、プログラムを記憶した記憶媒体
US8340420B2 (en) * 2009-10-05 2012-12-25 National Taiwan University Method for recognizing objects in images
US8897565B1 (en) * 2012-06-29 2014-11-25 Google Inc. Extracting documents from a natural scene image
US9430456B2 (en) 2012-08-10 2016-08-30 Transaxy Inc. System for entering data into a data processing system
US10241992B1 (en) 2018-04-27 2019-03-26 Open Text Sa Ulc Table item information extraction with continuous machine learning through local and global models
US11568666B2 (en) * 2019-08-06 2023-01-31 Instaknow.com, Inc Method and system for human-vision-like scans of unstructured text data to detect information-of-interest

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4785296A (en) * 1982-07-02 1988-11-15 Hitachi, Ltd. Method and system for displaying image data
WO1991006057A1 (en) * 1989-10-20 1991-05-02 Hitachi, Ltd. Image display/processing method of formatted document and apparatus therefor
JP3103100B2 (ja) 1990-10-22 2000-10-23 キヤノン株式会社 領域指定方法及び装置
JP3023375B2 (ja) 1990-10-25 2000-03-21 株式会社リコー 複写機の像域別画像処理装置
JPH05346970A (ja) * 1991-04-04 1993-12-27 Fuji Xerox Co Ltd 文書認識装置
DE69333694T2 (de) 1992-09-11 2005-10-20 Canon K.K. Verfahren und Anordnung zur Bildverarbeitung
JPH06274680A (ja) * 1993-03-17 1994-09-30 Hitachi Ltd 文書認識方法およびシステム
JP3254896B2 (ja) 1994-04-18 2002-02-12 富士ゼロックス株式会社 文書画像処理装置
JPH08265558A (ja) 1994-12-26 1996-10-11 Ricoh Co Ltd 画像形成装置
US6005680A (en) 1995-04-04 1999-12-21 Canon Information Systems, Inc. Method for capturing a document image, a scanner using the method and a document image management system using the scanner
JP3504054B2 (ja) * 1995-07-17 2004-03-08 株式会社東芝 文書処理装置および文書処理方法
US6512848B2 (en) * 1996-11-18 2003-01-28 Canon Kabushiki Kaisha Page analysis system
JPH10215369A (ja) 1997-01-29 1998-08-11 Ricoh Co Ltd 画像形成装置
JP4071328B2 (ja) * 1997-11-18 2008-04-02 富士通株式会社 文書画像処理装置および方法
JP4100746B2 (ja) 1998-01-09 2008-06-11 キヤノン株式会社 画像処理装置及び方法

Also Published As

Publication number Publication date
US7085437B2 (en) 2006-08-01
EP1133159A3 (en) 2004-01-07
EP1133159A2 (en) 2001-09-12
US20010021279A1 (en) 2001-09-13
JP2001203876A (ja) 2001-07-27

Similar Documents

Publication Publication Date Title
JP3756719B2 (ja) 文書修飾装置及び画像処理装置
EP0736999B1 (en) Method and apparatus for scanning a document
JP3773642B2 (ja) 画像処理装置および画像形成装置
JPH06508461A (ja) 画像を自動併合するための装置及び方法
US5467410A (en) Identification of a blank page in an image processing system
JP2003046746A (ja) 画像処理方法及び画像処理装置
JP2007116546A (ja) 画像処理装置、画像形成装置および表示制御方法
JPH05108793A (ja) 文書編集装置
JPH05151388A (ja) 処理領域及び処理条件の指定方式
JP2579356B2 (ja) 文書読取装置
JP3218678B2 (ja) 情報選択出力装置とその方法
JP2734628B2 (ja) 文字認識装置
JP2002027228A (ja) 画像処理のための装置、方法及び記録媒体
JP3660143B2 (ja) 印鑑イメージ処理装置
KR100197461B1 (ko) 그리드 좌표를 이용한 독취 영역 설정 방법
JP3191265B2 (ja) 画像入力装置およびその画像入力制御方法
JPH05108879A (ja) 画像処理方法及び装置
JPS63316563A (ja) 画像読取装置
JPH02170280A (ja) 文書傾き補正装置
KR100202268B1 (ko) 그리드 챠트를 이용한 독취 영역 설정 방법
JPH08255257A (ja) 静止画像入力装置
JPH04252665A (ja) 画像処理装置
JPH04157876A (ja) 領域指定方法及び装置
JPH08139902A (ja) 画像情報処理装置
JPH04262660A (ja) 画像認識出力装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051222

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090106

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100106

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110106

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110106

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120106

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120106

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130106

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130106

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140106

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees