JP3739621B2 - 情報処理装置および情報端末 - Google Patents
情報処理装置および情報端末 Download PDFInfo
- Publication number
- JP3739621B2 JP3739621B2 JP2000032414A JP2000032414A JP3739621B2 JP 3739621 B2 JP3739621 B2 JP 3739621B2 JP 2000032414 A JP2000032414 A JP 2000032414A JP 2000032414 A JP2000032414 A JP 2000032414A JP 3739621 B2 JP3739621 B2 JP 3739621B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- data
- tactile
- image
- extracting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、紙面に印刷された既存書籍を自動的に電子化するための情報処理装置およびそれを利用できる情報端末に関するものである。
【0002】
【従来の技術】
パーソナルコンピュータ(以下、PCという)や、PDAやザウルス等の携帯端末の普及に伴い、これまで紙面に印刷されてきた書籍をディスプレイや端末上に表示して読む環境が整ってきている。
【0003】
このように表示する際には、既存の書籍の画像を画像データとして入力した後、画像データそのものにて表示したり、画像データに対して文字認識処理を行い上記画像データを文字コードへと変換して上記文字データを表示したりすることになる。
【0004】
従来より、一般的な文書(社内文書、新聞、雑誌等)に関しては、紙面のレイアウトを自動的に認識し、文字領域や写真領域ごとに分割する技術が開発されてきた。
【0005】
【発明が解決しようとする課題】
ところが、漫画が画像として記載された書籍では、漫画のコマ領域の中に文字領域や線画領域やスクリーントーン領域等の各領域が混在し、画像の中から漫画の一コマ、一コマをそれぞれ取り出すには、操作者がマウス等の入力手段を操作して、漫画の画像の範囲を指定することにより、漫画の領域を抽出することが行われている。よって、従来では、書籍等の紙面画像データから、漫画の領域を抽出するのに、時間がかかり手間取るという問題を生じている。
【0006】
【課題を解決するための手段】
本発明の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、紙面画像データの各画素データを有色画素データと無色画素データとに2値化する2値化手段と、2値化された紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、有色画素連結領域に挟まれた画素データを、コマ領域の隣り合う各辺の各辺方向に沿ってそれぞれに走査することにより、上記画素データの数を計測する計測手段と、上記画素データ数が一定値以上となる各辺方向の各区間を算出する算出手段とを有し、上記抽出手段は、紙面画像データにおける、算出した各区間内に対応する矩形領域を匠標領域データとして抽出する第二抽出部を備えていることを特徴としている。ここで、匠標画像とは、漫画、イラスト、商標、意匠など二次元的な形状により表記された画像(ただし、立体的に描写されたものも含む)をいう。
【0007】
上記構成によれば、通常、矩形であるコマ領域の形状に基づき、抽出手段によって、紙面画像データの中から、匠標領域データを、コマ毎に自動的に判定して抽出し、出力手段により出力することができるので、手作業で匠標領域データの指定を行う場合よりも、高速にて処理することが可能となる。
【0008】
また、上記構成は、通常、漫画などの匠標画像において、その形状を有色、多くは黒色の輪郭線にて表示されることが多く、上記輪郭線としての有色画素連結領域に挟まれた各画素データの数を、コマ領域の隣り合う各辺の各辺方向に沿ってそれぞれ走査して計測することにより、上記輪郭線としての有色画素連結領域により挟まれた各画素データが集中している各区間を検索できる。
【0009】
この結果、上記構成では、上記区間に対応する有色画素連結領域を匠標領域データとして抽出することにより、コマ領域内部の描画内容には影響を受けずに、匠標画像を含むコマ領域の紙面画像データを、匠標領域データとして抽出できて、上記抽出をより確実化できる。
【0010】
本発明の他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、紙面画像データの各画素データを有色画素データと無色画素データとに2値化する2値化手段と、2値化された紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、有色画素連結領域に挟まれた画素データの示す領域の第一面積と、上記有色画素連結に外接する外接矩形の第二面積とを比較する比較手段とを有し、上記抽出手段は、第一面積/第二面積の比率が一定値以上、もしくは第二面積と第一面積との差が一定値以下となるとき、紙面画像データにおける上記矩形領域を匠標領域データとして抽出する第三抽出部を備えていることを特徴としている。
【0011】
上記構成によれば、輪郭線としての有色画素連結領域に挟まれた各画素データの示す領域の第一面積と、上記有色画素連結領域に外接する外接矩形の第二面積とを比較することにより、上記有色画素連結領域を含む、矩形であることが多いコマ領域を匠標領域データとして、より確実に抽出できる。
【0012】
本発明のさらに他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、有色画素データおよび無色画素データを有する紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、有色画素連結領域に挟まれた無色画素データを有色画素データに変換し、変換有色画素データとして出力する変換手段と、上記変換有色画素データに対し、有色画素連結領域の有色画素データを重畳して重畳有色画素データを出力する重畳手段とを有し、上記抽出手段は、重畳有色画素データに基づいて、紙面画像データから匠標領域データを抽出する第六抽出部を備えていることを特徴としている。
【0013】
上記構成によれば、さらに、匠標画像の形状を示す有色画素連結領域が大きい場合、例えば、匠標画像が有色(黒ベタ)で塗りつぶされている場合でも、重畳有色画素データを用いたことによって、上記匠標画像に応じた、より的確な匠標領域データを紙面画像データから抽出することができる。
【0014】
本発明のさらに他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、上記抽出手段は、紙面画像データから線分データを抽出する第一線分抽出手段と、抽出した匠標領域データの中から、複数のコマが互いに連結した領域に相当する部分匠標領域データを選択する選択手段と、選択された部分匠標領域データを、上記線分データにより分割する分割手段とを備えていることを特徴としている。
【0015】
上記構成によれば、複数のコマが互いに連結している場合においても、コマとコマとの間の枠線を線分データとして抽出することで、各コマ領域に相当する各匠標領域データを上記枠線を示す線分データにより一つずつに分割して、その分割された各匠標領域データをそれぞれ出力することを可能とする。
【0016】
本発明のさらに他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、上記抽出手段は、紙面画像データから、複数の線分データを抽出する第二線分抽出手段と、抽出された匠標領域データを、上記各線分データに挟まれた領域内に収まるように縮小する縮小手段とを備えていることを特徴としている。
【0017】
上記構成によれば、例えば、匠標画像を一コマずつ表示する際には、上記匠標画像に枠線を設ける必要がないため、上記枠線データを排除するように上記匠標領域データを縮小することにより、枠線の無い匠標画像を表示することができて、上記匠標画像を見易くできる。
【0018】
本発明のさらに他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、上記抽出手段は、紙面画像データから線分データを抽出する第一線分抽出手段と、コマ領域を示す線分データを含む上記コマ領域からはみ出している有色画素連結領域の存在を判定する判定手段と、匠標領域データが、はみ出した部分のデータおよび上記線分データを含むように、上記匠標領域データの領域を拡大する拡大手段とを備えていることを特徴としている。
【0019】
上記構成によれば、匠標に枠線からコマ領域からはみ出している部分がある際には、コマ領域からはみ出しているという情報を伝達するために、枠線の表示が必要なため、はみ出した部分および元の匠標領域データを示す枠線を示す線分データを含む拡大した匠標領域データを出力することができて、匠標画像の情報をより的確に伝達できる。
【0020】
本発明のさらに他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、上記抽出手段は、紙面画像データから線分データを抽出する第一線分抽出手段と、抽出した匠標領域データの中から、コマ領域と題名領域とが互いに連結した連結領域を選択する選択手段と、連結領域を線分データにより分割する分割部とを備えていることを特徴としている。
【0021】
上記構成によれば、題名領域とコマ領域とが互いに連結している場合においても、題名領域とコマ領域との境界線である線分データを抽出することで、題名領域とコマ領域とを分割してそれぞれ出力することができて、表示などにおける至便性を改善できる。
【0022】
本発明のさらに他の情報処理装置は、以上の課題を解決するために、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、上記抽出手段は、抽出した匠標領域データから、題名領域もしくはコマ領域を判定し、題名領域もしくはコマ領域の順序も判定する判定部と、判定した結果を領域情報として出力する第二出力部とを有していることを特徴としている。
【0023】
上記構成によれば、題名領域もしくはコマ領域の順序を自動的に判定した順序情報を領域情報と共に出力することで、順序に合わせて一コマずつ表示させる等の処理が可能となり、表示における至便性を向上できる。
【0024】
上記情報処理装置においては、さらに、匠標領域データにおける、匠標領域を示す座標値を検出する検出手段と、上記座標値を出力する座標出力手段とを有していることが好ましい。
【0025】
上記構成によれば、匠標画像のコマ領域を含む、例えば四角形の各頂点の座標値を出力することで、後処理において、上記コマ領域のみを取り出し、コマ領域毎に順次表示するなどの処理を可能とする。
【0026】
上記情報処理装置では、上記抽出手段は、匠標領域データにおける、有色画素連結領域を有色画素データとし、残りの画素データを無色画素データとする第一抽出部を有していてもよい。
【0027】
上記構成によれば、コマ領域の、匠標を示す有色画素連結領域のみを有色画素データとして残し、他の紙面画像データを無色画素データとすることで、紙面の端等に生じた入力ムラを排除できると共に、後処理において、ページ番号のつけ直しや、コマ領域以外の領域への色や模様の変更等を容易に可能とする。
【0028】
上記情報処理装置においては、出力手段は、抽出された匠標領域データを、匠標画像のコマ領域毎に、個別の分割された匠標領域データとしてそれぞれ出力する第一出力部を有していてもよい。
【0029】
上記構成によれば、匠標のコマ領域一つずつを個別の匠標領域データとして出力できることで、紙面画像データの全体を保存する代わりに、コマ領域の匠標領域データのみを保存できる。これにより、上記匠標領域データの格納容量の削減を可能とすると共に、匠標領域データの画像を一つずつ順次表示させることで、コマ領域の匠標領域データを順次表示することと等価の処理を実現することができる。
【0030】
上記情報処理装置では、さらに、2値化された紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、上記抽出手段は、有色画素連結領域の幅および高さと、所定値もしくは紙面の大きさに応じた設定値とを比較する比較算出手段と、上記抽出手段は、比率が一定値以上もしくは差が一定値以下となるとき、上記有色画素連結領域を匠標領域データとして抽出する第四抽出部を備えていてもよい。
【0031】
上記構成によれば、大きさが一定の範囲に収まるコマ領域に相当する匠標領域データを抽出するため、有色画素連結領域の幅および高さと、所定値もしくは紙面の大きさに応じた設定値とを比較することにより、上記のコマ領域に相当する匠標領域データを安定に抽出することができる。
【0032】
上記情報処理装置においては、さらに、紙面画像データから線分データを抽出する線分抽出手段と、抽出された線分データのうち閉領域を形成する複数の線分データを検出する検出手段と、上記抽出手段は、上記閉領域に対応する紙面画像データを匠標領域データとして抽出する第五抽出部を備えていてもよい。
【0033】
上記構成によれば、コマ領域の外周には、枠線が存在することが多く、上記枠線を線分として抽出し、線分に囲まれている閉領域を、コマ領域として抽出することを可能とする。また、例えば、表示画面の各辺に対し、斜めの線分を抽出することで、矩形以外の形状の領域をコマ領域として抽出してもよい。さらに、閉領域を形成する各線分同士は必ずしも互いに接触している必要はなく、各線分の端点同士が互いに近接していればよい。
【0034】
本発明のさらに他の情報処理装置は、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中から、匠標の題名に相当する題名領域データを題名領域の位置に基づいて抽出する抽出手段と、上記題名領域データを出力する出力手段とを有していることを特徴としている。
【0035】
上記構成によれば、上記抽出手段によって、紙面画像データの中から、漫画などの題名を示す題名領域データの一つ一つを、自動的に抽出できることにより、手作業にて題名領域を指定するときと比べて、指定を高速化できて手間を省けると共に、後処理において、題名領域データの文字認識処理を行うことによって、索引の自動作成等を可能とする。
【0036】
本発明のさらに他の情報処理装置は、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中から、匠標の題名に相当する題名領域データを題名領域の位置に基づいて抽出すると共に、匠標画像のコマ領域に相当する匠標領域データをコマ領域の形状に基づいて抽出する抽出手段と、上記題名領域データおよび匠標領域データと共に、上記各領域データの種別情報を出力する出力手段とを有していることを特徴としている。
【0037】
上記構成によれば、抽出手段によって、紙面画像データの中から、題名領域とコマ領域とを、それぞれ自動的に抽出でき、手作業にて題名領域やコマ領域を指定するときと比べて、指定を高速化できて手間を省ける。
【0038】
その上、上記構成では、題名領域であるかコマ領域であるかという識別情報と共に領域情報を出力することで、後処理において題名領域とコマ領域に対して別々の処理を行うことを可能とする。例えば、表示する際に題名領域のみの一覧表示を行ったり、題名領域とコマ領域とを同時に表示させてコマ領域のみ表示の更新を行うといった処理が可能となる。
【0039】
本発明の情報端末は、匠標領域データを含む紙面画像データを表示するための表示手段と、上記の何れかに記載の情報処理装置からの上記紙面画像データを通信や記録媒体等の伝達手段により入力するための入力手段とを有していることを特徴としている。
【0040】
上記構成によれば、上記の何れかに記載の情報処理装置によって得られた、匠標領域データにおけるコマ領域や題名領域のデータを入力できることで、題名領域やコマ領域の画像を、一つ一つ順次表示したり、前後のコマ領域に移動する等の操作が可能となり、操作や表示の至便性を向上できる。
【0041】
【発明の実施の形態】
本発明の実施の形態について図1ないし図8に基づいて説明すれば、以下の通りである。
【0042】
本発明の情報処理装置は、図1に示すように、スキャナ等の画像入力デバイス1と、入力画像用メモリ2と、作業用画像格納メモリ3と、黒画素数格納用メモリ4と、コマ領域抽出結果格納用メモリ5と、コマ領域画像格納用メモリ6と、液晶ディスプレイ等の表示部7と、抽出処理や出力処理のための各プログラムを記憶しておくためのプログラム用ROM8と、上記各プログラムに従って抽出処理や出力処理の流れを制御する制御部9(抽出手段)とを有している。
【0043】
上記情報処理装置を用いた、漫画等の匠標画像を含む紙面画像を紙面画像データとして取り込み、その紙面画像データから匠標領域データ(以下、領域と略す)を抽出する方法について、図2ないし図7の各フローチャート、および図8を参照しながら、以下に説明する。
【0044】
上記紙面画像データとは、仮想二次元空間上に格子状であるマトリクス状の各座標位置に白色(無色)または黒色(有色)を示して配置された各画素データの集合体を表す。なお、以下では、仮想二次元空間における、1頁毎の仮想二次元空間を仮想紙面と表記する。また、上方向、下方向、右方向、および左方向の表記については、矩形の表示画面での上下左右に基づいたものとする。匠標画像とは、漫画、イラスト、商標、意匠など二次元的な形状により表記された画像をいう。
【0045】
さらに、上記各フローチャートでは、画像入力デバイス1をSc、入力画像用メモリ2をM1、作業用画像格納メモリ3をM2、黒画素数格納用メモリ4をM3、コマ領域抽出結果格納用メモリ5をO1、コマ領域画像格納用メモリ6をO2、表示部7をD、プログラム用ROM8をR、制御部9をPと略して記載している。
【0046】
まず、画像入力デバイス(Sc)1により入力された紙面画像データは、入力画像用メモリ(M1)2に格納される(ステップ1、以下、ステップをSと略す)。画像入力デバイス1としては、一般にスキャナが使用されるが、別の場所で入力された紙面画像データをフロッピーディスクや、ネットワーク等を経由して転送し使用してもよい。
【0047】
また、入力された紙面画像データの各画素データが、多階調データである場合、制御部(P)9(2値化手段)は、プログラム用ROM(R)8内のプログラムに従って、入力画像用メモリ2に格納されている紙面画像データの2値化を行う(S2)。2値化のアルゴリズムは、既に公知の技術が数多く存在しており、例えば、紙面画像データにおける、各画素に相当する画素データの値がThv以上(Thv:予め設定したしきい値)の場合は、白画素に、Thv未満の場合は黒画素に画素データ値を変換する方法が挙げられる。
【0048】
制御部(P)9(判別手段)は、入力画像用メモリ(M1)2に格納されている紙面画像データから、黒画素連結領域を抽出する。黒画素連結領域は、例えば、3画素×3画素の、互いに隣接する9つの画素データの中心を注目画素データとし、注目画素データと注目画素データを囲む8個の各周囲画素データとを比較し、注目画素データが黒画素であり、かつ、各周囲画素データの少なくとも一つが黒画素である場合、黒画素連結と判別し、続いて、その黒画素の画素データに隣接する各画素データについて、黒画素か白画素を順次、検索することにより抽出される。
【0049】
また、このとき、黒画素連結領域の抽出を、黒画素連結領域に含まれる画素データ数が所定値以上、例えば仮想紙面1頁上の全画素データ数の1%以上のものとするように設定してもよい。さらに、白画素連結領域についても、紙面画像データから同様に抽出される。
【0050】
続いて、制御部(P)9は、入力画像用メモリ(M1)2に格納されている紙面画像データから、黒画素連結領域に、縦方向および/または横方向にて挟まれた(囲まれたことも含む)白画素連結領域の画素データを黒画素データに置き換えた置換画像データを作成し、上記置換画像データを作業用画像格納メモリ(M2)3に格納する処理を行う。
【0051】
具体的には、制御部(P)9は、入力画像用メモリ(M1)2の紙面画像データから、白黒反転した変換画像データを作業用画像格納メモリ(M2)3に格納し(S3)、次に、作業用画像格納メモリ(M2)3を走査して、変換画像データにおける、画像の端に接している、つまり外接している黒画素連結領域を白画素データに置き換えて排除する(S4)。
【0052】
一方、入力画像用メモリ(M1)2を走査して、黒画素データとなっている座標の画素データを、作業用画像格納メモリ(M2)3の画素データにおいても黒画素データに変更、つまり上書きする(S5)。
【0053】
制御部(P)9(計測手段)は、作業用画像格納メモリ(M2)3に格納されている各黒画素データ(重畳有色画素データ)を、縦方向および横方向に、それぞれ走査しながら、1列ごと、および1行ごとの黒画素数を計測し、その計測結果の値を黒画素数格納用(M3)メモリ4に格納する(S6)。
【0054】
なお、このとき、前記S5の処理を行わずに、入力画像用メモリ(M1)2と作業用画像格納メモリ(M2)3の両方を走査して、1列ごと、および1行ごとの黒画素数を計測することも可能である。
【0055】
次に、制御部(P)9(算出手段)は、黒画素数格納用(M3)メモリ4に格納された値から、黒画素数が、連続して予め設定された第一所定値(Thb)以上となる区間を横方向および縦方向、それぞれに対して算出する。このとき、まず、算出のために、順次、インクリメントされる変数i,jをそれぞれ1に設定する(S7)。
【0056】
このようにして求めた区間を、本実施の形態では、(Xsi−Xei),(Ysj−Yej)と表記する(Xs,Ys:区間の開始値、Xe,Ye:区間の終了値、i:1〜横方向の区間の数、j:1〜縦方向の区間の数)。なお、第一所定値(Thb)の値は、横方向と縦方向とで相異なる値となるように変更してもよい。上記横方向とは、表示部7の表示画面上での走査方向を示し、縦方向とは、上記走査方向に対し直交する方向をいう。
【0057】
続いて、制御部(P)9は、作業用画像格納メモリ(M2)3に格納されている紙面画像データに対して左上座標が、(Xsi,Ysj)、右下座標が(Xei,Yej)となる矩形(i:1〜横方向の区間の数、j:1〜縦方向の区間の数)の内部にある、黒画素連結領域の面積A(第一面積)を求める(S8)。
【0058】
一方、前述の矩形の面積Ar(第二面積)を求める(S9)。このように算出された面積Aと面積Arとを比較して、A/Arが、予め設定した第二設定値(Th1)以上となる場合(S10)、あるいはAr−Aが、予め設定した第三設定値(Th2)以下となる場合(図示せず)、その黒画素連結領域は、匠標画像のコマ領域であると判断されて、コマ領域抽出結果格納用メモリ(O1)5に、上述の矩形の左上座標と右下座標の値を格納する(S11)。
【0059】
続いて、入力画像用メモリ(M1)2内の黒画素連結領域に対応する、コマ領域画像格納用メモリ(O2)6の画素データを黒画素データに変更して書き込む(S12)。なお、コマ領域画像格納用メモリ(O2)6は、処理開始時に、全画素データを白画素データに初期設定しておく。また、黒画素データに変更する、コマ領域画像格納用メモリ(O2)6の画素データは、入力画像用メモリ(M1)2の代わりに、作業用画像格納メモリ(M2)3内の黒画素連結領域に対応する画素データであってもよい(後述するS20やS27でも同様である)。
【0060】
続いて、各変数i,jを1ずつインクリメントし、上記各変数i,jが、それぞれ横方向の区間の数、および縦方向の区間の数に達していない場合には、前記のS8に戻り、順次、上記の比較を実行する(S13〜S16)。
【0061】
次に、制御部(P)9において、入力画像用メモリ(M1)2に格納されている紙面画像データに対し、黒画素連結領域の外接矩形の幅wおよび高さhに基づいてコマ領域を抽出する方法について以下に説明する。
【0062】
まず、制御部(P)9は、上記S1〜S16の結果に基づいて、黒画素連結領域の幅wおよび高さhを求める(S17)。その後、予め設定されている第四設定値(Thh)および第五設定値(Thw)と、幅wおよび高さhとをそれぞれ比較する(S18)。このとき、第四設定値(Thh)および第五設定値(Thw)は、予め装置作成者や装置利用者が指定した値や、紙面の幅・高さと予め定めた1以下の値との積を用いることができる。
【0063】
このような比較では、|(w/Thw)−1|および|(h/Thh)−1|が、予め設定された第六設定値(Th3)以下となるか否か(図示せず)を、あるいは、|w−Thw|および|h−Thh|が、予め設定された第七設定値(Th4)以下となるか否かを判別する(S18)。
【0064】
上記比較において、YESの場合、その黒画素連結領域は匠標のコマ領域と判別して、コマ領域抽出結果格納用メモリ(O1)5に、コマ領域に相当する外接矩形の左上座標と右下座標の値をそれぞれ格納する(S19)。上記比較において、NOの場合には、後述するS21にジャンプする。
【0065】
続いて、入力画像用メモリ(M1)2内の黒画素連結領域に対応する、コマ領域画像格納用メモリ(O2)6の画素データを、黒画素データに変更して書き込む(S20)。その後、紙面画像データにおける、例えば、1頁分の領域の大きさに基づいて、全ての領域を調査した否かを判別し、否(NO)の場合には、前記のS17に戻り、調査した場合(YES)には、次のステップに移行する。
【0066】
ただし、第六設定値(Th3)および第七設定値(Th4)については、上記では、幅wおよび高さhに対して、それぞれ同一の値を設定した例を挙げたが、その例に代えてそれぞれ変えて設定してもよい。
【0067】
次に、制御部(P)9において、入力画像用メモリ(M1)2に格納されている紙面画像データから、線分データを抽出して、上記紙面画像データのコマ領域を抽出する方法について以下に説明する。
【0068】
まず、制御部(P)9は、入力画像用メモリ(M1)2に格納されている紙面画像データから、線分に対応する紙面画像データを抽出する(S22)。線分抽出のアルゴリズムとしては既に公知の技術が数多く存在しており、例えば縦方向および横方向に紙面画像データを走査して、黒画素データ(白画素データでもよいが)が一定以上連続して存在している部分を線分に相当する紙面画像データとして抽出する方法が挙げられる。
【0069】
具体的には、例えば図8にも示すように、抽出した線分の紙面画像データから任意の線分L1を選び(S23)、上記線分L1の2つの各端点の近傍に端点を有する2つの各線分L2,L3を選び(S24)、2つの各線分L2,L3における、線分L1と反対側の各端点の近傍に、それぞれ端点を有する線分L4を選ぶ(S25)。
【0070】
このような各線分L1,L2,L3,L4の組合せが存在した場合は、上記線分L1,L2,L3,L4を枠線と判定して、上記の4つの各線分L1,L2,L3,L4で囲まれた領域は、匠標画像のコマ領域であると判断し、上記線分L1の2つの端点、上記線分L4の2つの端点の各座標値をコマ領域抽出結果格納用メモリ(O1)5に格納し(S26)、続いて、上記の4つの各線分L1,L2,L3,L4で囲まれた領域に相当する、入力画像用メモリ(M1)2内の黒画素連結領域に対応する、コマ領域画像格納用メモリ(O2)6の画素データを、黒画素データに変更して書き込む(S27)。
【0071】
その後、すべての線分データを調査したか否かを判別し(S28)、NOの場合には、前記のS23に戻り、順次、全ての線分データを調査するまで、前記S23〜S28を繰り返す。一方、YESの場合には次のステップに移行する。
【0072】
なお、上記では、コマ領域の抽出を、黒画素連結領域の面積Aと矩形の面積Arとの比較、黒画素連結領域の幅wと高さhを用いた比較、および、線分を用いた比較を順次行うように記載しているが、特に上記に限定されることはなく、上記の各比較の少なくとも一つを用いてもよいし、また、上記順番も、互いに入れ換えても特に支障はない。
【0073】
次に、制御部(P)9において、抽出された領域(匠標領域データ)が複数の各コマ領域が互いに連結したものかどうか、および、題名を示す題名領域とコマ領域とが互いに連結したものかどうかを判定する例を以下に説明する。
【0074】
まず、制御部(P)9は、コマ領域抽出結果格納用メモリ(O1)5に格納された、抽出した領域の座標値を元に、上記領域が複数の各コマ領域が互いに連結したものかどうかを判定する。
【0075】
具体的には、例えば、一般的な漫画等の匠標のコマ領域の高さ(Ky)(紙面画像データの1頁分の高さに対する割合でもよい)を予め指定しておき、抽出された領域の中で最も仮想紙面の上に位置し、高さがKy×(2±α)(αは予め定めた値)に近い場合、2つのコマが互いに連結している領域であるか否かを判定する(S29)。
【0076】
なお、上記では2つのコマが互いに連結している例を挙げたが、3つ以上のコマが互いに連結している場合でも同様に判定できる。また、高さ(Ky)は、抽出した領域の平均値を用いてもよい。さらに、高さ(Ky)に代えて、幅を使用しても同様に判定が可能である。さらに、αの値は、コマ領域同士が連結している領域を判定する場合と、題名領域とコマ領域とが連結している領域を判定する場合とで、相異なる値を使用してもよい。
【0077】
次に、制御部(P)9において、上記S29での判定により、抽出された領域が複数のコマ領域が連結した領域ではないと判定されたとき、前記のS23にて求めた線分L1を元に、コマ領域抽出結果格納用メモリ(O1)5に格納された、抽出した領域の座標値を、上記領域がコマ領域の枠線の内側になるように変更する(S30〜S33)。
【0078】
具体的には、まず、領域の周囲を横切る黒画素連結領域があるか否かを判別し、ある(YES)の場合では、後述のS34にジャンプし、否(NO)の場合では、領域を囲む各枠線を以下の通り求める。例えば、対象の領域の左上座標が(Xsi,Ysj)、右下座標が(Xei,Yej)とすると、2端点が(Xsi,Ysj)と(Xei,Ysj)、(Xsi,Ysj)と(Xsi,Yej)、(Xei,Ysj)と(Xei,Yej)、(Xsi,Yej)と(Xei,Yej)に、それぞれ近い各線分を各枠線L1,L2,L3,L4として求める(S31)。
【0079】
続いて、上記領域の紙面画像データを、各枠線に重ならないように縮小してコマ領域抽出結果格納用メモリ(O1)5に出力し(S32)、後述のS36にジャンプする。
【0080】
一方、制御部(P)9において、上記S29での判定により、抽出された領域が複数のコマ領域が連結した領域であると判定されたとき、上記領域は、複数のコマ領域あるいは題名領域とコマ領域とが互いに連結している領域であるので、前記のS23にて求めた線分L1の中から、連結している領域を横または縦に貫く線分を求め、その線分の場所で上記領域を分割する(S33)。
【0081】
次に、前記のS31と同様にして、各枠線L1,L2,L3,L4を求める(S34)。その後、抽出された領域を、黒画素連結領域および各枠線を含むように拡大して、コマ領域抽出結果格納用メモリ(O1)5に出力した後、全ての領域を調査したか否かを判別して(S36)、否(NO)の場合には、上記のS29〜S36を繰り返し、全ての領域を調査した場合(YES)には、次のステップに移行する。
【0082】
続いて、制御部(P)9は、コマ領域抽出結果格納用メモリ(O1)5に格納された、抽出した領域の座標値を元に、領域が題名領域か、コマ領域かの判定を行う(S37)。具体的には、例えば、抽出した領域の中で仮想紙面の上で最も上に位置し、領域の高さがKy×γ(γ:予め定めた1未満の値)以下のものを題名領域と判定する。
【0083】
このように判定して、領域が題名領域であれば(YES)、その領域を題名領域としてコマ領域抽出結果格納用メモリ(O1)5に出力し(S38)、領域が、上記以外であれば、上記領域をコマ領域としてコマ領域抽出結果格納用メモリ(O1)5に出力する(S39)。
【0084】
その後、全ての領域を調査したか否かを判別して(S40)、否(NO)の場合には、上記のS37〜S40を繰り返し、全ての領域を調査した場合(YES)には、次のステップに移行する。
【0085】
なお、該当する領域が存在しない場合には、仮想紙面上で最も上に位置するコマ領域のさらに上に位置する黒画素連結領域を題名領域として、コマ領域抽出結果格納用メモリ(O1)5に領域情報を追加し、コマ領域画像格納用メモリ(O2)6に黒画素連結領域を追加してもよい(図示せず)。判定結果については、領域の種別情報として、同様にコマ領域抽出結果格納用メモリ(O1)5に出力する。
【0086】
制御部(P)9は、コマ領域抽出結果格納用メモリ(O1)5に格納された、抽出された領域の座標値を元に、題名領域および/もしくはコマ領域の順序の判定を行うようにもなっている。
【0087】
具体的には、例えば、コマ領域抽出結果格納用メモリ(O1)5内の領域情報に対して、適当に順序情報を付与した(S41)後、任意の二つの領域情報Raと領域情報Rbを取り出し(S42)、領域情報Rbが領域情報Raより仮想紙面上で上にある場合もしくは領域情報Rbが領域情報Raより仮想紙面上で右にある場合は、領域情報Rbが領域情報Raより順序が先になるようにコマ領域抽出結果格納用メモリ(O1)5内の順序情報の入れ替えを行う(S44)。なお、手作業で順序情報を指定できるような手段を備えていてもよい。
【0088】
続いて、全ての領域を調査したか否かを判別して(S45)、否(NO)の場合には、上記のS42〜S45を繰り返し、全ての領域を調査した場合(YES)には、図2ないし図7に示した上記フローチャートの処理が完了する。
【0089】
上記処理が全て終了した後、制御部(P)9は、コマ領域抽出結果格納用メモリ(O1)5に格納された領域情報と、コマ領域画像格納用メモリ(O2)6に格納されたコマ領域画像データを利用して、表示部7に漫画等の匠標画像の題名領域やコマ領域の表示を行う。例えば、コマ領域抽出結果格納用メモリ(O1)5に格納された領域の一つを、領域Rcとすると、領域Rcの座標値を元に、コマ領域画像格納用メモリ(O2)6の領域Rc内の紙面画像データのみを取り出して、表示部7に表示するといった処理が可能である。
【0090】
なお、コマ領域抽出結果格納用メモリ(O1)5およびコマ領域画像格納用メモリ(O2)6に格納された情報は、一旦、別の記録媒体に出力しておき、別の情報端末で記録媒体内の情報を媒体のインタフェース経由や通信経由などで読み込んで利用することも可能である。
【0091】
上記情報端末としては、液晶ディスプレイ等の表示部を有する、無線の携帯電話やPHS、PDAなどのモバイル(携帯自在)な情報機器、および、パーソナルコンピュータ等を挙げることができる。
【0092】
さらに、上記処理では、コマ領域画像格納用メモリ(O2)6内のコマ領域の紙面画像データについては、コマ領域抽出結果格納用メモリ(O1)5の領域情報を元に、領域の一つ一つを別々の画素データとして出力することも可能である。例えば、コマ領域抽出結果格納用メモリ(O1)5に格納された題名領域やコマ領域の内の一つの領域をRdとし、領域Rdの左上座標が(Xsi,Ysj)、右下座標が(Xei,Yej)とすると、コマ領域画像格納用メモリ(O2)6から領域Rd内の画素データを切り出して、横サイズ(Xei−Xsi+1)、縦サイズ(Yej−Ysj+1)の画素データとし、別の記録媒体等に他の領域情報(コマ領域の順序情報や種別情報等)と共に格納すればよい。
【0093】
【発明の効果】
本発明の情報処理装置は、以上のように、漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、紙面画像データの各画素データを有色画素データと無色画素データとに2値化する2値化手段と、2値化された紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域に挟まれた画素データを、コマ領域の隣り合う各辺の各辺方向に沿ってそれぞれに走査することにより、上記画素データの数を計測する計測手段と、上記画素データ数が一定値以上となる各辺方向の各区間を算出する算出手段とを有し、上記抽出手段は、紙面画像データにおける、算出した各区間内に対応する矩形領域を匠標領域データとして抽出する第二抽出部を備えている構成である。
【0094】
それゆえ、上記構成は、通常、矩形であるコマ領域の形状に基づき、抽出手段によって、紙面画像データの中から、匠標領域データを、コマ領域毎に自動的に判定して抽出し、出力手段により出力することができるので、手作業で匠標領域データの指定を行う場合よりも、高速にて処理することが可能となるという効果を奏する。
【0095】
その上、上記構成では、抽出した匠標領域データにおけるコマ領域の情報を利用して、様々なコマ領域の表示の仕方を実現することが可能となり、表示の至便性を向上できるという効果も奏する。
【0096】
さらに、上記構成は、通常、漫画などの匠標画像において、その形状を有色、多くは黒色の輪郭線にて表示されることが多く、上記輪郭線としての有色画素連結領域に挟まれた各画素データの数を、コマ領域の隣り合う各辺の各辺方向に沿ってそれぞれ走査して計測することにより、上記輪郭線としての有色画素連結領域により挟まれた各画素データが集中している各区間を検索できる。
【0097】
この結果、上記構成では、上記区間に対応する有色画素連結領域を匠標領域データとして抽出することにより、コマ領域内部の描画内容には影響を受けずに、匠標画像を含むコ マ領域の紙面画像データを、匠標領域データとして抽出できて、上記抽出をより確実化できるという効果も奏する。
【図面の簡単な説明】
【図1】 本発明の情報処理装置の概要を示すブロック図である。
【図2】 上記情報処理装置の抽出処理を示すフローチャートの一部である。
【図3】 上記フローチャートの他の一部である。
【図4】 上記フローチャートのさらに他の一部である。
【図5】 上記フローチャートのさらに他の一部である。
【図6】 上記フローチャートのさらに他の一部である。
【図7】 上記フローチャートのさらに他の一部である。
【図8】 上記情報処理装置における、線分を抽出する様子を示す説明図であり、(a)は線分L1の抽出を示し、(b)は、続いて各線分L2,L3の抽出を示し、(c)は、次に、線分L4の抽出を示す。
【符号の説明】
1 画像入力デバイス
2 入力画像用メモリ
3 作業用画像格納メモリ
4 黒画素数格納用メモリ
5 コマ領域抽出結果格納用メモリ
6 コマ領域画像格納用メモリ
7 表示部
8 プログラム用ROM(出力手段)
9 制御部(抽出手段)
Claims (12)
- 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、
紙面画像データの各画素データを有色画素データと無色画素データとに2値化する2値化手段と、
2値化された紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、
有色画素連結領域に挟まれた画素データを、コマ領域の隣り合う各辺の各辺方向に沿ってそれぞれに走査することにより、上記画素データの数を計測する計測手段と、
上記画素データ数が一定値以上となる各辺方向の各区間を算出する算出手段とを有し、
上記抽出手段は、紙面画像データにおける、算出した各区間内に対応する矩形領域を匠標領域データとして抽出する第二抽出部を備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、
紙面画像データの各画素データを有色画素データと無色画素データとに2値化する2値化手段と、
2値化された紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、
有色画素連結領域に挟まれた画素データの示す領域の第一面積と、上記有色画素連結に外接する外接矩形の第二面積とを比較する比較手段とを有し、
上記抽出手段は、第一面積/第二面積の比率が一定値以上、もしくは第二面積と第一面積との差が一定値以下となるとき、紙面画像データにおける上記矩形領域を匠標領域データとして抽出する第三抽出部とを備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段と、
有色画素データおよび無色画素データを有する紙面画像データから、各有色画素データが互いに隣接して連なった有色画素連結領域を判別する判別手段と、
有色画素連結領域に挟まれた無色画素データを有色画素データに変換し、変換有色画素データとして出力する変換手段と、
上記変換有色画素データに対し、有色画素連結領域の有色画素データを重畳して重畳有色画素データを出力する重畳手段とを有し、
上記抽出手段は、重畳有色画素データに基づいて、紙面画像データから匠標領域データを抽出する第六抽出部を備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、
上記抽出手段は、紙面画像データから線分データを抽出する第一線分抽出手段と、
抽出した匠標領域データの中から、複数のコマが互いに連結した領域に相当する部分匠標領域データを選択する選択手段と、
選択された部分匠標領域データを、上記線分データにより分割する分割手段とを備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、
上記抽出手段は、紙面画像データから、複数の線分データを抽出する第二線分抽出手段と、
抽出された匠標領域データを、上記各線分データに挟まれた領域内に収まるように縮小する縮小手段とを備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、
上記抽出手段は、紙面画像データから線分データを抽出する第一線分抽出手段と、
コマ領域を示す線分データを含む上記コマ領域からはみ出している有色画素連結領域の存在を判定する判定手段と、
匠標領域データが、はみ出した部分のデータおよび上記線分データを含むように、上記匠標領域データの領域を拡大する拡大手段とを備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、
上記抽出手段は、紙面画像データから線分データを抽出する第一線分抽出手段と、
抽出した匠標領域データの中から、コマ領域と題名領域とが互いに連結した連結領域を選択する選択手段と、
連結領域を線分データにより分割する分割部とを備えていることを特徴とする情報処理装置。 - 漫画などの匠標画像を備えた紙面情報に基づく紙面画像データの中の、匠標画像のコマ領域に相当する匠標領域データを出力する出力手段と、
上記匠標領域データを上記コマ領域の形状に基づいて抽出する抽出手段とを有し、
上記抽出手段は、抽出した匠標領域データから、題名領域もしくはコマ領域を判定し、題名領域もしくはコマ領域の順序も判定する判定部と、
判定した結果を領域情報として出力する第二出力部とを有していることを特徴とする情報処理装置。 - 匠標領域データにおける、匠標領域を示す座標値を検出する検出手段と、
上記座標値を出力する座標出力手段とを有していることを特徴とする請求項1ないし8の何れか1項に記載の情報処理装置。 - 上記抽出手段は、匠標領域データにおける、有色画素連結領域を有色画素データとし、残りの画素データを無色画素データとする第一抽出部を有していることを特徴とする請求項1ないし8の何れか1項に記載の情報処理装置。
- 出力手段は、抽出された匠標領域データを、匠標画像のコマ領域毎に、個別の分割された匠標領域データとしてそれぞれ出力する第一出力部を有していることを特徴とする請求項1ないし8の何れか1項に記載の情報処理装置。
- 匠標領域データを含む紙面画像データを表示するための表示手段と、請求項1ないし11の何れか1項に記載の情報処理装置からの上記紙面画像データを通信や記録媒体等の伝達手段により入力するための入力手段とを有していることを特徴とする情報端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000032414A JP3739621B2 (ja) | 2000-02-09 | 2000-02-09 | 情報処理装置および情報端末 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000032414A JP3739621B2 (ja) | 2000-02-09 | 2000-02-09 | 情報処理装置および情報端末 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001222713A JP2001222713A (ja) | 2001-08-17 |
JP3739621B2 true JP3739621B2 (ja) | 2006-01-25 |
Family
ID=18557019
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000032414A Expired - Fee Related JP3739621B2 (ja) | 2000-02-09 | 2000-02-09 | 情報処理装置および情報端末 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3739621B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5433396B2 (ja) * | 2009-12-18 | 2014-03-05 | Kddi株式会社 | マンガ画像からテキストを抽出するマンガ画像解析装置、プログラム、検索装置及び方法 |
JP5312420B2 (ja) * | 2010-07-13 | 2013-10-09 | 富士フイルム株式会社 | コンテンツ解析装置、方法およびプログラム |
-
2000
- 2000-02-09 JP JP2000032414A patent/JP3739621B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001222713A (ja) | 2001-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1091320A2 (en) | Processing multiple digital images | |
JP5854802B2 (ja) | 画像処理装置、画像処理方法、及びコンピュータプログラム | |
JPH0634231B2 (ja) | 型片デ−タ作成方法 | |
CN108664454B (zh) | 电子书页面显示方法、装置和终端设备 | |
JPH09171557A (ja) | イメージ処理方法及び装置 | |
KR101579873B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 컴퓨터 판독 가능한 매체 | |
EP1081648A2 (en) | Method for processing a digital image | |
JP6353893B2 (ja) | 携帯端末装置のカメラにより撮影される紙面画像から記事をスクラップするための方法、プログラム、及び装置 | |
JP2001203876A (ja) | 文書修飾装置及び画像処理装置 | |
US20160232405A1 (en) | Overhead image-reading apparatus, image-processing method, and computer program product | |
JP3739621B2 (ja) | 情報処理装置および情報端末 | |
KR101903617B1 (ko) | 복수 개의 객체 이미지를 포함한 정적인 디지털 결합 이미지의 편집 방법 | |
US10789715B2 (en) | Image processing device, image processing method, and information storage medium | |
US6496198B1 (en) | Color editing system | |
JP4737270B2 (ja) | 画像処理装置及びプログラム | |
JPH0981583A (ja) | ドキュメントファイリング装置および方法 | |
JP4870721B2 (ja) | 画像特徴抽出装置、画像特徴抽出方法、プログラム、及び記録媒体 | |
CN110750501A (zh) | 文件检索方法和装置、存储介质及相关设备 | |
JP4164976B2 (ja) | 文字認識装置 | |
JP2019197345A (ja) | 画像処理装置および画像処理用プログラム | |
JP2011003022A (ja) | 画像処理装置及びプログラム | |
JP2616447B2 (ja) | 地図データ入力方式 | |
JP2013250927A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP4409678B2 (ja) | 罫線抽出方式 | |
CN110533735B (zh) | 一种基于图像集的可视化配色方法、存储介质及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050329 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050527 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050527 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051101 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051102 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091111 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091111 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101111 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111111 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111111 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121111 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |