JP3878401B2 - 画像処理装置、画像処理方法およびそれを記録した記録媒体 - Google Patents

画像処理装置、画像処理方法およびそれを記録した記録媒体 Download PDF

Info

Publication number
JP3878401B2
JP3878401B2 JP2000280320A JP2000280320A JP3878401B2 JP 3878401 B2 JP3878401 B2 JP 3878401B2 JP 2000280320 A JP2000280320 A JP 2000280320A JP 2000280320 A JP2000280320 A JP 2000280320A JP 3878401 B2 JP3878401 B2 JP 3878401B2
Authority
JP
Japan
Prior art keywords
inclination
image
line segment
extracted
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000280320A
Other languages
English (en)
Other versions
JP2002092606A (ja
JP2002092606A5 (ja
Inventor
秀明 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2000280320A priority Critical patent/JP3878401B2/ja
Priority to PCT/JP2001/007339 priority patent/WO2002023482A1/ja
Priority to CNB018147879A priority patent/CN1240024C/zh
Priority to US10/343,437 priority patent/US7269298B2/en
Priority to TW090122624A priority patent/TWI244047B/zh
Publication of JP2002092606A publication Critical patent/JP2002092606A/ja
Publication of JP2002092606A5 publication Critical patent/JP2002092606A5/ja
Application granted granted Critical
Publication of JP3878401B2 publication Critical patent/JP3878401B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • G06T3/608Rotation of whole images or parts thereof by skew deformation, e.g. two-pass or three-pass rotation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/243Aligning, centring, orientation detection or correction of the image by compensating for image skew or non-uniform image deformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3877Image rotation
    • H04N1/3878Skew detection or correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Character Input (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、入力された画像データの傾きを補正する画像処理装置、画像処理方法およびそれを記録した記録媒体に関する。
【0002】
【従来の技術】
従来、産業の中心は、その発展過程の中でハードウェア産業からソフトウェア産業へと移行を遂げ、さらに21世紀はコンテンツ産業へ移行すると予測される。そして、コンテンツ産業の最も近いターゲットは、近年国内外で注目を集めている電子書籍であり、その中でも、画像処理技術を応用してローコストで作成可能な画像ベースの電子書籍が有力視されている。特に日本国内では、売上で全紙書籍の約半数を占める「漫画」が対象となるため、画像ベースの電子書籍がその中心となる。
【0003】
画像ベースの電子書籍の利点は、既存の校正済み書籍を基に、▲1▼スキャナ入力→▲2▼傾き補正→▲3▼各種画像処理→▲4▼人手による修正/編集→▲5▼コンテンツ出力までの作成過程のほとんどが自動化でき、極めてローコストにコンテンツが作成できる点である。そして、商品となるコンテンツデータは高精度に傾き補正しておく必要があるため、上記作成過程では、特に▲2▼の傾き補正が重要となる。
【0004】
入力画像の傾きを自動的に補正する「傾き補正技術」は、電子ファイリングシステム、OCR(Optical Character Reader;光学式文字読取装置)ソフトの前処理機能などで既に実現されており、特開平9−120430号公報の「画像処理装置」(従来技術1)、および特開平01−64076号公報の「画像ファイル装置」(従来技術2)に従来技術が開示されている。
【0005】
従来技術1は、画像に罫線などが存在する場合に、画像の輪郭座標列を走査し、輪郭の4隅を求め、その4隅から細長い形状のものを線分として抽出し、抽出された線分の中で最も細長いものから画像の傾きを抽出し補正する方式である。
【0006】
また、従来技術2は、入力原稿の周辺エッジ部分が白である前提条件のもと、画像入力時の原稿よりも外側の領域を黒とし、その情報をもとに原稿の周辺エッジ部分を抽出し、そのエッジ情報から原稿の傾きを抽出し補正する方式である。
【0007】
前記従来技術1では、孤立した線分が存在する場合に安定した性質を有し、前記従来技術2では、原稿周辺エッジが白となる条件下で安定した性能を有する。
【0008】
【発明が解決しようとする課題】
しかしながら、これらの従来技術を、画像ベースの電子書籍で最重要となる「漫画」に対して適用すると、「漫画」が有する各種問題のため補正精度が低下する問題が発生する。その結果、人手による補正工数が大となり、画像ベース電子書籍の利点(ローコストな電子化)がそこなわれる。従来技術の問題点を、以下、具体的に述べる。
【0009】
従来技術1では、輪郭形状が細長いものを線分として抽出しているため、線分が他の文字や絵などと接触している場合(このようなケースは漫画で頻出する)は、線分の輪郭の4隅が抽出できず、輪郭形状が細長くならず適用できない。
【0010】
また、最も細長い線分を1つだけ採用するため、その線分に傾きがあった場合は、補正結果が誤りとなる。これは、漫画ではコマ線が意図的に斜めに書かれている場合があるからである。
【0011】
従来技術2では、原稿の周辺エッジが白であることを前提条件とし、画像入力時の原稿より外側部分を黒画素とすることにより周辺エッジを抽出するものであるが、周辺に絵がある原稿や周辺が黒く塗られている原稿(このようなケースも漫画では頻出する)は、正確に原稿の周辺エッジが抽出できず、補正結果が誤りとなる。
【0012】
以上のとおり、漫画などを対象とした場合、これらの従来技術では高精度に傾き補正ができないという問題があった。
【0013】
本発明の目的は、画像中に存在する線分が文字や絵と接触している場合、補正誤りの要因となる斜め線分が存在している場合、および原稿の周辺エッジが白でない場合でも、高精度に傾き補正を行うことができる画像処理装置、画像処理方法およびそれを記録した記録媒体を提供することである。
【0014】
【課題を解決するための手段】
本発明は、入力された画像の傾きを補正する画像処理装置において、
入力画像の中心領域の画値を所定の画素値に統一して、エッジ画素を抽出するエッジ抽出手段と、
前記エッジ抽出手段によって抽出されたエッジ画素を連結して線分を抽出する線分抽出手段と、
前記線分抽出手段によって抽出された線分を基に画像の傾き角度を抽出する傾き抽出手段と、
前記傾き抽出手段によって抽出された画像の傾き角度を基に画像の傾きを補正する傾き補正手段とを有することを特徴とする画像処理装置である。
【0015】
本発明に従えば、画像処理装置は、入力された画像のエッジ画素を抽出し、抽出されたエッジ画素を連結して線分を抽出し、抽出された線分を基に画像の傾き角度を抽出し、抽出された画像の傾き角度を基に画像の傾きを補正するので、入力された画像中に存在する線分が文字や絵と接触している場合でも、補正誤りの要因となる斜め線分が存在している場合でも、原稿の周辺エッジが白でない場合でも、高精度に傾き補正を行うことができる。
【0017】
また前記エッジ抽出手段は、入力画像の中心領域の画素値を、所定の画素値にするので、画像中心部に存在するエラー要因、たとえば斜め線分が削除され、傾き補正の性能が向上し、また傾き補正を高速化することができる。
また本発明の前記エッジ抽出手段は、所定の画素値に統一された画素値を対象にエッジ画素を抽出することを特徴とする。
本発明に従えば、エッジ画素は所定の画素値に統一された画素値から抽出されるので、前記所定の画素値以外の画素値を有する画素は非エッジ画素とし、入力画像の全画素からエッジ画素を注目画素として抽出することができる。
【0018】
また本発明の前記線分抽出手段は、エッジ画素を連結しエッジ座標を抽出するエッジ座標抽出手段と、前記エッジ座標を走査し、各エッジ座標から次エッジ座標への方向コードを付与する方向コード付与手段と、前記方向コード付与手段によって与えられたある方向コードとそれに連なる方向コードとの傾きの差に基いて抽出した屈曲点のエッジ座標と、端点エッジ座標とを結ぶ線分に新たな方向コードを付与する第2の方向コード付与手段とを有することを特徴とする。
【0019】
本発明に従えば、前記線分抽出手段は、エッジ座標抽出手段によって、エッジ画素を連結しエッジ座標を抽出し、方向コード付与手段によって、前記エッジ座標を走査し、各エッジ座標から次エッジ座標への方向コードを付与し、各エッジ座標の方向コードを走査し、第2の方向コード付与手段によって、ある方向コードとそれに連なる方向コードとの傾きの差が所定の閾値以下の点のエッジ座標を消去し、前記傾きの差が所定の閾値より大きい点である屈曲点のエッジ座標を保存するとともに、端点のエッジ座標を保存し、各点を結ぶことによって新たな線分を抽出し、その線分に新たな方向コードを付与する。これによって、エッジ座標から各線分が抽出される。
また本発明の前記第2の方向コード付与手段は、各エッジ座標の方向コードを走査し、ある方向コードとそれに連なる方向コードとの傾きの差が所定の閾値以下の点のエッジ座標を消去し、前記傾きの差が所定の閾値より大きい点である屈曲点のエッジ座標を保存するとともに、端点のエッジ座標を保存し、各点を結ぶことによって新たな線分を抽出し、その線分に新たな方向コードを付与することを特徴とする。
本発明に従えば、第2の方向コード付与手段によって、ある方向コードとそれに連なる方向コードとの傾きの差が所定の閾値以下の点のエッジ座標が消去され、前記傾きの差が所定の閾値より大きい点である屈曲点のエッジ座標および端点のエッジ座標は保存される。こうして保存されたエッジ座標の各点を結ぶことによって新たな線分が抽出され、その新たな線分には新たな方向コードが付与される。
【0020】
また本発明の前記線分抽出手段は、前記新たな方向コードを付与した線分を走査し、線分長が所定の閾値より長く、かつ方向コードの傾きが所定の範囲にある線分を水平線分または垂直線分として抽出することを特徴とする。
【0021】
本発明に従えば、前記線分抽出手段は、前記新たな方向コードを付与した線分を走査し、線分長が所定の閾値より長く、かつ方向コードの傾きが所定の範囲にある線分を水平線分または垂直線分として抽出するので、傾き補正に不必要な極端な斜め線分や短い線分を除去することができる。
【0022】
また本発明の前記傾き抽出手段は、抽出された全線分に対して、各線分角度を抽出し、抽出された各線分角度に、全線分長さの和を分母とし各線分長さを分子とした重みを乗じ、この重み付き線分角度を全て加算した値を画像の傾き角度として抽出することを特徴とする。
【0023】
本発明に従えば、前記傾き抽出手段は、抽出された全線分に対して、各線分角度を抽出し、抽出された各線分角度に、全線分長さの和を分母とし各線分長さを分子とした重みを乗じ、この重み付き線分角度を全て加算した値を画像の傾き角度として抽出するので、線分長さの長いものほどその傾き角度を採用することができ、エラー要因となりうる線分の角度が反映されにくくなる。
【0024】
また本発明は、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像の傾きを補正する画像処理装置であって、入力画像に対して傾きを抽出する傾き抽出手段と、前記傾き抽出手段によって抽出された傾きを基に画像の傾きを補正する傾き補正手段と、前記傾き補正手段によって補正された傾きが、所定の閾値以下である場合に補正の終了を判定する終了判定手段とを有し、前記終了判定手段によって終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰り返すことを特徴とする画像処理装置である。
【0025】
本発明に従えば、画像処理装置は、入力画像に対して傾きを抽出し、抽出された傾きを基に画像の傾きを補正し、補正された傾きが所定の閾値以下である場合に補正の終了を判定し、傾きが所定の閾値よりも大きい場合には終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰返すので、傾き補正精度を向上させることができる。
【0026】
また本発明は、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像の傾きを補正する画像処理方法であって、入力された画像のエッジ画素を抽出するステップと、抽出されたエッジ画素を連結して線分を抽出するステップと、抽出された線分を基に画像の傾き角度を抽出するステップと、抽出された画像の傾き角度を基に画像の傾きを補正するステップとを含むことを特徴とする画像処理方法である。
【0027】
本発明による画像処理方法に従えば、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像のエッジ画素を抽出し、抽出されたエッジ画素を連結して線分を抽出し、抽出された線分を基に画像の傾き角度を抽出し、抽出された画像の傾き角度を基に画像の傾きを補正するので、入力された画像中に存在する線分が文字や絵と接触している場合でも、補正誤りの要因となる斜め線分が存在している場合でも、原稿の周辺エッジが白でない場合でも、高精度に傾き補正を行うことができる。
【0028】
また本発明は、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像の傾きを補正する画像処理方法において、入力画像に対して傾きを抽出するステップと、抽出された傾きを基に画像の傾きを補正するステップと、補正された傾きが、所定の閾値以下である場合に補正の終了を判定するステップとを有し、補正された傾きが、所定の閾値よりも大きい場合には、終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰り返すことを特徴とする画像処理方法である。
【0029】
本発明による画像処理方法に従えば、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像に対して傾きを抽出し、抽出された傾きを基に画像の傾きを補正し、補正された傾きが所定の閾値以下である場合に補正の終了を判定し、傾きが所定の閾値よりも大きい場合には終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰返すので、傾き補正精度を向上させることができる。
【0030】
また本発明は、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像のエッジ画素を抽出するステップと、抽出されたエッジ画素を連結して線分を抽出するステップと、抽出された線分を基に画像の傾き角度を抽出するステップと、抽出された画像の傾き角度を基に画像の傾きを補正するステップとを含む画像処理方法を、コンピュータに実行させるためのプログラムを記録したコンピュータによって読取り可能な記録媒体である。
【0031】
本発明に従えば、コンピュータに実行させるためのプログラムを記録したコンピュータ読取可能な記録媒体は、入力された画像のエッジ画素を抽出し、抽出されたエッジ画素を連結して線分を抽出し、抽出された線分を基に画像の傾き角度を抽出し、抽出された画像の傾き角度を基に画像の傾きを補正する画像処理方法を記録するので、入力された画像中に存在する線分が文字や絵と接触している場合でも、補正誤りの要因となる斜め線分が存在している場合でも、原稿の周辺エッジが白でない場合でも、高精度に傾き補正を行うことができる。
【0032】
また本発明は、入力画像の中心領域の画素値所定の画素値に統一して前記入力画像に対して傾きを抽出するステップと、抽出された傾きを基に画像の傾きを補正するステップと、補正された傾きが、所定の閾値以下である場合に補正の終了を判定するステップとを有し、補正された傾きが所定の閾値よりも大きい場合には、終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰り返す画像処理方法をコンピュータに実行させるためのプログラムを記録したコンピュータによって読取り可能な記録媒体である。
【0033】
本発明に従えば、コンピュータに実行させるためのプログラムを記録したコンピュータ読取可能な記録媒体は、入力画像に対して傾きを抽出し、抽出された傾きを基に画像の傾きを補正し、補正された傾きが所定の閾値以下である場合に補正の終了を判定し、傾きが所定の閾値よりも大きい場合には終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰返す画像処理方法を記録するので、高精度に傾き補正を行うことができる。
【0034】
【発明の実施の形態】
以下、一般的な漫画画像を例にあげ、本発明の実施の形態について説明する。
【0035】
図1は、原稿よりも外側の部分が黒色で入力された漫画画像1を示す概略図である。図1に示すように、漫画画像1には、断ち落とし部分(原稿の端まで絵が書いてある部分)1a、原稿の周辺エッジが黒く塗られている部分1b、または意図的に斜めに書かれているコマ線1cが存在する。しかし、原稿の周辺付近に書かれているコマ線の大多数は、コマ線1dのように原稿の上辺および下辺に平行な水平方向、または原稿の左辺および右辺に平行な垂直方向に延び、斜めのコマ線が絵が書いてある部分よりも外側に書かれていることはほとんどない。つまり、原稿の周辺付近に書かれているコマ線は、ほとんどが水平方向または垂直方向の線である。また、各コマ線は孤立して存在する場合もあるが、多くはコマ線1eのように、絵やスクリーントーンなどに接触している。また、辺1fのように、原稿の周辺エッジがすべて白い辺も存在する。
【0036】
次に、本発明の実施の一形態である画像処理装置による画像処理方法について説明する。前記画像処理装置は、入力された画像のエッジ画素を抽出するエッジ抽出手段と、抽出されたエッジ画素を連結して線分を抽出する線分抽出手段と、抽出された線分を基に画像の傾き角度を抽出する傾き抽出手段と、抽出された画像の傾き角度を基に画像の傾きを補正する傾き補正手段と、抽出された傾きを基に終了判定を行う終了判定手段とを有する。画像処理装置は、図1に示す漫画画像1のような入力画像に対する原稿の傾きを補正、すなわち原稿の周辺エッジが入力画像の縦枠および横枠に平行となるように補正する画像処理を行う。
【0037】
図1に示す漫画画像1が入力されると、画像処理装置は、有力な画像周辺領域の水平方向および垂直方向の線分に注目するため、まずエッジ抽出手段によって、入力された漫画画像1の中心領域を、原稿上コマ外の背景画素、ここでは白画素でマスクする。つまり、前記中心領域の画素値をすべて所定の画素値に統一する。マスクする中心領域の形状は、円でも矩形でも任意であるが、本実施の形態では矩形領域とし、その縦方向の長さは入力画像の1/3とし、幅方向の長さは入力画像の1/3とする。このように、中心領域をマスクすることによって、画像中心部に存在するエラー要因(斜め線分など)が削除されるので、傾き補正の性能が向上し、傾き補正を高速化することができる。なお、すべての画素に対して以降に説明する画像処理を行い、最終的に中心付近を無視しても結果は同様であるが、その場合、不要な画素に対しての処理が必要となるため処理速度の低下を招く。
【0038】
次に、エッジ抽出手段によって、マスクされた画像のエッジ画素を抽出する。これは、画像に対して上→下、左→右の2方向に走査し、注目画素が黒画素で、直前の画素値が白画素の場合、または直後の画素値が白画素の場合に、注目画素をエッジ画素として抽出することによって行う。
【0039】
図2は、図1に示す漫画画像1からエッジ画素が抽出された抽出画像2を示す概略図である。図2に示す抽出画像2を人間が見ると、漫画画像1から線分が抽出されているように錯覚するが、実際は抽出したエッジ画素を黒で、その他の非エッジ画素を白で表示しているだけで、線分などの情報は取れていない。
【0040】
抽出画像2において、図1に示す断ち落し部分1aに対応する部分2a、および図1に示す原稿の周辺エッジが黒く塗られている部分1bに対応する部分2bは、原稿外の黒色で入力された部分と違いがつかず、原稿エッジが不安定となっている。また図2の中心領域であるマスク領域2cは、マスクすることにより斜め線分などが大幅にカットされ、矩形の白抜きとして示される。さらに、図1に示すように、原稿よりも外側の部分を黒画素で入力した場合には、図1の周辺が明確な白画素で構成される辺1fに対応する辺2fが、最長のエッジ線分となる様子がわかる。
【0041】
次に、線分抽出手段のエッジ座標抽出手段によって、エッジ画素を連結しエッジ座標列を作成する。図3は、エッジ画素の8連結を説明するための概略図である。図3に示すように、エッジ画素の連結は、たとえば2次元座標が(x,y)の未連結のエッジ画素3dを注目画素として、8近傍画素を所定の回転方向、ここでは時計まわりに見て最初にあたる座標が(x+1,y)の未連結エッジ画素3aを注目画素と連結し、以降、連結されたエッジ画素3aを新たな注目画素として、8近傍画素に未連結のエッジ画素が存在しなくなるまで、同様の処理を繰返して行う。
【0042】
こうすることによって、エッジ画素が列のエッジ座標列(Xi,Yi)に変換される。エッジ座標列は、たとえば1文字の場合では、その外輪郭(または内輪郭)で1つの座標列となる。
【0043】
次に、線分抽出手段の方向コード付与手段によって、エッジ座標列に方向コードを付与する。図4は、方向コードの付与を説明するための概略図である。図4では、座標列の1つの座標が黒丸を始点とした矢印で表されており、矢印はその方向を示している。ここでは、まず図4の(a)に示すように、座標列を走査し、注目座標から次の座標への方向に対して、方向コードを付与する。本実施の形態の方向コードは、360度を反時計まわりに64に量子化されたベクトルコードであり、方向コード1および方向コード33が水平方向の方向コードであり、方向コード17および方向コード49が垂直方向の方向コードである。
【0044】
さらに、線分抽出手段の第2の方向コード付与手段によって図4の(b)に示すように、各エッジ座標とその方向コードを走査し、ある方向コードとそれに連なる方向コードとの傾きの差が所定の閾値以下の点のエッジ座標を消去し、前記傾きの差が所定の閾値より大きい点(屈曲点4b)のエッジ座標、および端点4a,4cのエッジ座標を保存する。
【0045】
保存されたエッジ座標を基に、端点4aと屈曲点4bとの間の区間lを結ぶ新たな線分4d、および端点4cと屈曲点4bとの区間mを結ぶ新たな線分4eを抽出する。抽出された線分4d,4eは、その両端の座標を基に方向コードが再計算され、新たな方向コードが付与される。図5は、図2に示す抽出画像2から抽出された新たな線分によって描かれる線分抽出画像5を示す概略図である。
【0046】
次に、線分抽出手段によって、抽出された全線分から、線分の方向コードが水平方向を示す方向コード1および方向コード33の線分、ならびに垂直方向を示す方向コード17と方向コード49の線分以外の線分を消去し、また線分長が所定の閾値以下の線分を消去する。これは言い換えれば、所定の閾値よりも長い水平線分および垂直線分を残す処理であるが、1つの方向コードは、360÷64=5.6度の範囲を持つため、正確には、±5.6度の誤差を持つ水平・垂直付近の線分を残す処理となる。これによって、極端な斜め線分はカットされる。図6は、図5に示す線分抽出画像5から水平線分および垂直線分が抽出された線分抽出画像6を示す概略図である。
【0047】
次に、傾き抽出手段によって、この各線分の傾き角度と線分長を抽出し、画像の傾き角度を計算する。傾き抽出手段による傾き角度の計算は、抽出された全線分に対して、抽出された全線分長さの和を分母とし、各線分長を分子とした重みを、方向コードから抽出した各線分の角度に乗じ、この重み付き線分角度を加算した値を画像の傾き角度として抽出するものである。この傾き角度の抽出方法は、線分長さが長いものほどその傾き角度を採用するものである。これにより、もし画像の中央付近に傾き抽出エラー要因となる緩い斜め線分が存在しても、抽出された線分はマスクの効果でその線分長は短くなっており、その結果、エラーとなる緩い斜め角度が反映されにくくなる。なお、極端な斜め線分は前の処理でカット済みなので、この時点では緩い斜め線分が対象となる。
【0048】
次に、傾き補正手段によって、求めた画像の傾き角度に基づいて、画像を回転させ傾きの補正を行う。以上の傾き補正において、画像の傾きが大きい場合、エッジ画素にがたつきが生じ、原稿上の1本の線分が複数の線分に分割されて抽出されてしまい、短い線分で傾き抽出を行うことになり補正精度が低下する。
【0049】
本実施の形態では、これを回避するため、画像処理の最後に、終了判定手段によって、抽出した傾き角度の絶対値が所定の閾値以下であるか判断し、閾値以下の場合処理を終了し、また所定の閾値より大きい場合、補正済み画像を入力画像として再度傾き抽出を行い、終了と判定されるまで、傾き抽出、傾き補正および終了判定を繰り返す。このように、「傾き抽出→傾き補正→終了判定」を繰返すことによって、傾き補正精度を向上させることができる。図7は、傾きが補正された漫画画像9を示す概略図である。
【0050】
図8は、画像処理装置による画像処理手順を説明するためのフローチャートである。図9は、本発明の実施の一形態である画像処理装置のCPU(中央演算処理装置)11およびワークメモリ部12を示すブロック図である。ワークメモリ部12は、オリジナル画像バッファ(BO)、入力画像バッファ(BI)、エッジ画像バッファ(BE)、座標列バッファ(BP)、線分バッファ(BL)および補正画像バッファ(BR)を有し、CPU11によって制御される。
【0051】
まず、ステップS501にて、画像処理装置に入力された画像は、オリジナル画像バッファ(BO)と入力画像バッファ部(BI)とに格納される。
【0052】
次に、入力画像バッファ(BI)の中心領域の画素値が、画像の原稿上のフレームより外側の背景画素値で置換えられる。中心領域の形状は、円でも矩形でも任意であるが、本実施の形態では矩形領域とし、その縦方向の長さは入力画像の1/3、幅方向の長さは入力画像の1/3とする。また、中央領域を塗りつぶす画素値は、本実施の形態ではモノクロ2値画像(黒画像が1、白画像が0)を使用しているので、白画素値の0を用いる。マスクされた結果の画像はそのまま入力画像バッファ(BI)に保持される(S502)。
【0053】
次に、入力画像バッファ(BI)を上→下、および左→右の2方向から順に走査し、注目画素が黒画素(1)で、直前の画素値が白画素(0)の場合、または直後の画素値が白画素(0)の場合、注目画素をエッジ画素として抽出し、エッジ画像バッファ(BE)の対応画素値を1に設定する。上記条件を満足していない場合は、注目画素が黒または白にかかわらず非エッジ画素として、エッジ画像バッファ(BE)の対応画素値を0に設定する。入力画像の全画素に対して上下左右からの走査を行った結果、エッジ画素は画素値1として、非エッジ画素は画素値0として、エッジ画像バッファ(BE)に格納される(S503)。
【0054】
次に、エッジ画像バッファ(BE)のあるエッジ画素を注目画素とし、近傍8連結画素を時計まわりに見て最初にエッジ画素が存在する画素と連結を行っていく。これにより、2次元の2値画像データ(0と1のみの情報)から、連結されたエッジ座標列(Xi,Yi)に変換される。変換された座標列は座標列バッファ(BP)に格納される(S504)。
【0055】
次に、座標列バッファ(BP)を走査し、注目座標(Xi,Yi)から次の座標(Xi+1,Yi+1)への方向コードを付与する。本実施の形態では、反時計まわりに360度を64で量子化した64方向コード(1,2,3,…64)を用いる。したがって、360÷64=5.6度までの角度差が同じ方向コード値として設定される。この結果は座標列バッファ(BP)の方向コード部(Di)に格納される(S505)。
【0056】
次に、座標列バッファ(BP)の方向コード部(Di)を走査し、ある方向コードとそれに連なる方向コードとの傾きの差が所定の閾値以下の点のエッジ座標を消去し、前記傾きの差が所定の閾値より大きい点のエッジ座標、および端点のエッジ座標を保存する。さらに、保存されたエッジ座標を基に、端点と屈曲点との間の区間を結ぶ新たな線分を抽出し、新たな方向コードを付与する。この結果、新たな線分の方向コードと線分の両端座標とが、線分バッファ(BL)に格納される(S506)。
【0057】
次に、線分バッファ(BL)を走査し、線分の方向コードが水平(方向コード1と方向コード33)、および垂直(方向コード17と方向コード49)以外の線分で、かつ線分長が所定の閾値以下の線分を消去する。残った結果は、同じく線分バッファ(BL)に上書きされる(S507)。
【0058】
次に、線分バッファ(BL)を走査し、抽出された全ての水平・垂直線分の長さと角度から式1より画像の傾き角度θを計算する(S508)。
【0059】
【数1】
Figure 0003878401
【0060】
N:水平・垂直線分数
LT:全線分長の総和
Li:i番目線分の線分長
Ai:i番目線分の傾き角度
【0061】
次に、抽出した画像の傾き角度θを基に入力画像バッファ(BI)を回転させ傾きの補正を行う。補正結果の画像は補正画像バッファ(BR)に格納される(S509)。
【0062】
次に、抽出した画像の傾き角度θの絶対値が所定の閾値以下であるか判断し、閾値以下の場合は処理を終了する(S510)。画像の傾き角度θが所定の閾値よりも大きな場合は、補正画像バッファ(BR)の内容を入力画像バッファ(BI)にコピーし(S511)、再び傾き抽出、傾き補正を行うためS502へ戻る。以下、S510の終了判定で終了と判断されるまで、ステップS502〜ステップS511を繰返し、画像の傾きを高精度に補正する。
【0063】
以上のような画像処理方法は、画像処理装置などのコンピュータに実行させるためのプログラムとして、コンピュータ読取可能な記録媒体に記録されてもよい。
【0064】
【発明の効果】
以上のように本発明によれば、画像処理装置は、入力画像の中心領域の画素値を統一することによって、エラー要因となる斜め線分などを削除して、傾き補正の性能を向上および高速化を図り、入力された画像中に存在する線分が文字や絵と接触している場合でも、補正誤りの要因となる斜め線分が存在している場合でも、原稿の周辺エッジが白でない場合でも、高精度に傾き補正を行うことができる。よって、たとえば漫画画像の傾き補正を高速かつ高精度に行うことができる。
【図面の簡単な説明】
【図1】原稿よりも外側の部分が黒色で入力された漫画画像1を示す概略図である。
【図2】図1に示す漫画画像1からエッジ画素が抽出された抽出画像2を示す概略図である。
【図3】エッジ画素の8連結を説明するための概略図である。
【図4】方向コードの付与を説明するための概略図である。
【図5】図2に示す抽出画像2から抽出された新たな線分によって描かれる線分抽出画像5を示す概略図である。
【図6】図5に示す線分抽出画像5から水平線分および垂直線分が抽出された線分抽出画像6を示す概略図である。
【図7】本発明の実施の一形態である画像処理装置によって、傾きが補正された漫画画像9を示す概略図である。
【図8】画像処理装置による画像処理手順を説明するためのフローチャートである。
【図9】本発明の実施の一形態である画像処理装置のCPU(中央演算処理装置)11およびワークメモリ部12を示すブロック図である。
【符号の説明】
1 傾き補正前の漫画画像
2 抽出画像
5,6 線分抽出画像
9 傾きが補正された漫画画像
11 CPU
12 ワークメモリ部

Claims (11)

  1. 入力された画像の傾きを補正する画像処理装置において、
    入力画像の中心領域の画値を所定の画素値に統一して、エッジ画素を抽出するエッジ抽出手段と、
    前記エッジ抽出手段によって抽出されたエッジ画素を連結して線分を抽出する線分抽出手段と、
    前記線分抽出手段によって抽出された線分を基に画像の傾き角度を抽出する傾き抽出手段と、
    前記傾き抽出手段によって抽出された画像の傾き角度を基に画像の傾きを補正する傾き補正手段とを有することを特徴とする画像処理装置。
  2. 前記エッジ抽出手段は、前記所定の画素値に統一された画素値を対象にエッジ画素を抽出することを特徴とする請求項1記載の画像処理装置。
  3. 前記線分抽出手段は、エッジ画素を連結しエッジ座標を抽出するエッジ座標抽出手段と、前記エッジ座標を走査し、各エッジ座標から次エッジ座標への方向コードを付与する方向コード付与手段と、前記方向コード付与手段によって与えられたある方向コードとそれに連なる方向コードとの傾きの差に基いて抽出した屈曲点のエッジ座標と、端点のエッジ座標とを結ぶ線分に新たな方向コードを付与する第2の方向コード付与手段とを有することを特徴とする請求項1記載の画像処理装置。
  4. 前記第2の方向コード付与手段は、各エッジ座標の方向コードを走査し、ある方向コードとそれに連なる方向コードとの傾きの差が所定の閾値以下の点のエッジ座標を消去し、前記傾きの差が所定の閾値より大きい点である屈曲点のエッジ座標を保存するとともに、端点のエッジ座標を保存し、各点を結ぶことによって新たな線分を抽出し、その線分に新たな方向コードを付与することを特徴とする請求項3記載の画像処理装置。
  5. 前記線分抽出手段は、前記新たな方向コードを付与した線分を走査し、線分長が所定の閾値より長く、かつ方向コードの傾きが所定の範囲にある線分を水平線分または垂直線分として抽出することを特徴とする請求項3記載の画像処理装置。
  6. 前記傾き抽出手段は、抽出された全線分に対して、各線分角度を抽出し、抽出された各線分角度に、全線分長さの和を分母とし、各線分長さを分子とした重みを乗じ、この重み付き線分角度を全て加算した値を画像の傾き角度として抽出することを特徴とする請求項1記載の画像処理装置。
  7. 入力画像の中心領域の画素値所定の画素値に統一して前記入力画像の傾きを補正する画像処理装置であって、入力画像に対して傾きを抽出する傾き抽出手段と、前記傾き抽出手段によって抽出された傾きを基に画像の傾きを補正する傾き補正手段と、前記傾き補正手段によって補正された傾きが、所定の閾値以下である場合に補正の終了を判定する終了判定手段とを有し、前記終了判定手段によって終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰り返すことを特徴とする画像処理装置。
  8. 入力画像の中心領域の画素値所定の画素値に統一して前記入力画像の傾きを補正する画像処理方法であって、入力された画像のエッジ画素を抽出するステップと、抽出されたエッジ画素を連結して線分を抽出するステップと、抽出された線分を基に画像の傾き角度を抽出するステップと、抽出された画像の傾き角度を基に画像の傾きを補正するステップとを含むことを特徴とする画像処理方法。
  9. 入力画像の中心領域の画素値所定の画素値に統一して前記入力画像の傾きを補正する画像処理方法において、入力画像に対して傾きを抽出するステップと、抽出された傾きを基に画像の傾きを補正するステップと、補正された傾きが、所定の閾値以下である場合に補正の終了を判定するステップとを有し、補正された傾きが、所定の閾値よりも大きい場合には、終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰り返すことを特徴とする画像処理方法。
  10. 入力画像の中心領域の画素値所定の画素値に統一して前記入力画像のエッジ画素を抽出するステップと、抽出されたエッジ画素を連結して線分を抽出するステップと、抽出された線分を基に画像の傾き角度を抽出するステップと、抽出された画像の傾き角度を基に画像の傾きを補正するステップとを含む画像処理方法を、コンピュータに実行させるためのプログラムを記録したコンピュータによって読取り可能な記録媒体。
  11. 入力画像の中心領域の画素値所定の画素値に統一して前記入力画像に対して傾きを抽出するステップと、抽出された傾きを基に画像の傾きを補正するステップと、補正された傾きが、所定の閾値以下である場合に補正の終了を判定するステップとを有し、補正された傾きが所定の閾値よりも大きい場合には、終了と判定されるまで、傾き補正後の出力画像を新たな入力画像として、傾き抽出、傾き補正および終了判定を繰り返す画像処理方法をコンピュータに実行させるためのプログラムを記録したコンピュータによって読取り可能な記録媒体。
JP2000280320A 2000-09-14 2000-09-14 画像処理装置、画像処理方法およびそれを記録した記録媒体 Expired - Fee Related JP3878401B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2000280320A JP3878401B2 (ja) 2000-09-14 2000-09-14 画像処理装置、画像処理方法およびそれを記録した記録媒体
PCT/JP2001/007339 WO2002023482A1 (fr) 2000-09-14 2001-08-27 Dispositif et procede de traitement d'image, et support pour le stockage de ladite image
CNB018147879A CN1240024C (zh) 2000-09-14 2001-08-27 图像处理装置、图像处理方法
US10/343,437 US7269298B2 (en) 2000-09-14 2001-08-27 Image processing device, image processing method, and record medium on which the same is recorded
TW090122624A TWI244047B (en) 2000-09-14 2001-09-12 Image processing device, image processing method, and record medium on which the same is recorded

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000280320A JP3878401B2 (ja) 2000-09-14 2000-09-14 画像処理装置、画像処理方法およびそれを記録した記録媒体

Publications (3)

Publication Number Publication Date
JP2002092606A JP2002092606A (ja) 2002-03-29
JP2002092606A5 JP2002092606A5 (ja) 2004-08-26
JP3878401B2 true JP3878401B2 (ja) 2007-02-07

Family

ID=18765182

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000280320A Expired - Fee Related JP3878401B2 (ja) 2000-09-14 2000-09-14 画像処理装置、画像処理方法およびそれを記録した記録媒体

Country Status (5)

Country Link
US (1) US7269298B2 (ja)
JP (1) JP3878401B2 (ja)
CN (1) CN1240024C (ja)
TW (1) TWI244047B (ja)
WO (1) WO2002023482A1 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4363151B2 (ja) * 2003-10-14 2009-11-11 カシオ計算機株式会社 撮影装置、その画像処理方法及びプログラム
JP4363152B2 (ja) * 2003-10-14 2009-11-11 カシオ計算機株式会社 撮影画像投影装置、撮影画像投影装置の画像処理方法及びプログラム
JP2005267457A (ja) 2004-03-19 2005-09-29 Casio Comput Co Ltd 画像処理装置、撮影装置、画像処理方法及びプログラム
JP4598426B2 (ja) * 2004-03-30 2010-12-15 富士通株式会社 境界抽出方法、プログラムおよびこれを用いた装置
JP3990375B2 (ja) * 2004-03-30 2007-10-10 東芝ソリューション株式会社 画像処理装置および画像処理方法
JP4556813B2 (ja) * 2005-09-08 2010-10-06 カシオ計算機株式会社 画像処理装置、及びプログラム
JP2007074578A (ja) * 2005-09-08 2007-03-22 Casio Comput Co Ltd 画像処理装置、撮影装置、及びプログラム
JP4634261B2 (ja) * 2005-09-09 2011-02-16 株式会社リコー 画像形成装置、画像処理装置、画像出力装置、携帯端末、画像処理システム、画像形成方法、画像処理方法、画像出力方法、画像形成プログラム、画像処理プログラムおよび画像出力プログラム
US7734099B2 (en) * 2005-11-11 2010-06-08 General Electric Company Method and system for generating polygonal boundary definitions for image objects
JP4243614B2 (ja) * 2006-01-11 2009-03-25 Necアクセステクニカ株式会社 線分検出器及び線分検出方法
US8180176B2 (en) 2007-07-12 2012-05-15 Panasonic Corporation Image processing device, image processing method, image processing program, recording medium with image processing program recorded therein, and image processing processor
JP4482898B2 (ja) * 2007-10-26 2010-06-16 村田機械株式会社 画像処理装置及び画像読取装置
CN101436254B (zh) * 2007-11-14 2013-07-24 佳能株式会社 图像处理方法和图像处理设备
JP4890425B2 (ja) * 2007-12-05 2012-03-07 株式会社セルシス マンガのコマ画像のためのマスク画像の作成方法及びプログラム
CN101540040B (zh) 2008-03-21 2012-12-12 深圳迈瑞生物医疗电子股份有限公司 自动检测限束器边界的方法与装置
JP4738469B2 (ja) * 2008-10-29 2011-08-03 株式会社東芝 画像処理装置、画像処理プログラムおよび画像処理方法
CN101887521B (zh) * 2010-06-22 2013-09-11 中兴通讯股份有限公司 一种实现文件纠偏的方法及终端
JP5565258B2 (ja) * 2010-10-12 2014-08-06 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
JP5350357B2 (ja) * 2010-12-21 2013-11-27 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
CN102737362B (zh) * 2011-04-01 2015-07-08 国基电子(上海)有限公司 具漫画图像分割功能的电子装置及方法
JP4916587B1 (ja) * 2011-05-17 2012-04-11 合同会社大和印刷 電子書籍の提供方法
KR101870773B1 (ko) * 2011-08-31 2018-06-26 삼성전자 주식회사 광학식 문자 판독기를 이용한 스케줄 관리 방법 및 장치
CN103150704B (zh) * 2011-12-07 2016-04-27 中国移动通信集团广东有限公司 一种数据处理方法及装置
JP5068883B1 (ja) * 2011-12-28 2012-11-07 パナソニック株式会社 画像処理装置およびこれを備えた原稿読取システム
CN103310212A (zh) * 2012-03-14 2013-09-18 鸿富锦精密工业(深圳)有限公司 图像文件处理系统及方法
CN103279924B (zh) * 2013-05-24 2015-11-25 中南大学 一种对任意倾斜角度的专利证书图像的校正方法
KR102158062B1 (ko) * 2014-01-14 2020-09-21 엘지이노텍 주식회사 제스처 인식 장치 및 이의 제스처 인식 방법
CN104766078B (zh) * 2015-04-02 2018-06-22 四川九洲电器集团有限责任公司 目标图像的倾斜角检测方法及倾斜角检测设备
CN107169933B (zh) * 2017-04-14 2020-08-18 浙江光珀智能科技有限公司 一种基于tof深度相机的边缘反射像素校正方法
CN109447070B (zh) * 2018-10-31 2020-08-28 新华三信息安全技术有限公司 一种信息确定方法及装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62198971A (ja) 1986-02-26 1987-09-02 Taku Arimoto 直線の識別方式
JPS6464076A (en) 1987-09-04 1989-03-09 Hitachi Ltd Image file device
JPH0259978A (ja) 1988-08-26 1990-02-28 Toshiba Corp ライン検出装置
JPH02103683A (ja) 1988-10-12 1990-04-16 Fujitsu Ltd 枠線抽出方式
JP2809762B2 (ja) 1989-11-14 1998-10-15 株式会社東芝 図形整形装置
TW197509B (ja) 1990-01-31 1993-01-01 Hitachi Seisakusyo Kk
JP3149221B2 (ja) 1991-03-27 2001-03-26 株式会社リコー 画像処理装置
US5448692A (en) * 1991-03-27 1995-09-05 Ricoh Company, Ltd. Digital image processing device involving processing of areas of image, based on respective contour line traces
US5594815A (en) * 1992-10-19 1997-01-14 Fast; Bruce B. OCR image preprocessing method for image enhancement of scanned documents
TW283224B (en) 1993-09-24 1996-08-11 Matsushita Electric Inst Of Technology Co Ltd Table structure extraction apparatus
TW308677B (en) 1993-10-06 1997-06-21 Ind Tech Res Inst Method of automatic separating text box and segmenting word in Chinese/English recognition system
JPH07311867A (ja) 1994-05-18 1995-11-28 Oki Electric Ind Co Ltd 紙葉類認識装置
JPH08201021A (ja) 1995-01-23 1996-08-09 Mazda Motor Corp キャリブレーション方法
JP3396006B2 (ja) 1995-03-08 2003-04-14 株式会社リコー デジタル複写機
JPH1011584A (ja) 1996-06-19 1998-01-16 Fujitsu Ltd 画像処理方法
JPH09120430A (ja) 1996-10-18 1997-05-06 Hitachi Ltd 画像処理装置
US5841905A (en) * 1996-10-25 1998-11-24 Eastman Kodak Company Business form image identification using projected profiles of graphical lines and text string lines
US5974199A (en) * 1997-03-31 1999-10-26 Eastman Kodak Company Method for scanning and detecting multiple photographs and removing edge artifacts
CN1290312C (zh) * 1998-06-23 2006-12-13 夏普公司 除去读取双面或重叠原稿产生的透印的图像处理装置及其方法

Also Published As

Publication number Publication date
US7269298B2 (en) 2007-09-11
CN1240024C (zh) 2006-02-01
WO2002023482A1 (fr) 2002-03-21
JP2002092606A (ja) 2002-03-29
US20040101209A1 (en) 2004-05-27
CN1449543A (zh) 2003-10-15
TWI244047B (en) 2005-11-21

Similar Documents

Publication Publication Date Title
JP3878401B2 (ja) 画像処理装置、画像処理方法およびそれを記録した記録媒体
JP2002092606A5 (ja)
JP3338537B2 (ja) 画像傾き検出装置
EP2536122B1 (en) Image processing method, image processing device and scanner
US9477898B2 (en) Straightening out distorted perspective on images
US8285077B2 (en) Automatic correction of digital image distortion
JP4738469B2 (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
RU2621601C1 (ru) Устранение искривлений изображения документа
JP2597006B2 (ja) 矩形座標抽出方法
JPH0652354A (ja) スキュー補正方法並びにスキュー角検出方法並びにドキュメントセグメンテーションシステムおよびスキュー角検出装置
CN111832558A (zh) 文字图像矫正方法、装置、存储介质及电子设备
MXPA02008494A (es) Correccion de distorsiones en el proceso de formas.
CN111681161B (zh) 折叠二维码图像的还原方法、设备及计算机可读存储介质
JP3604909B2 (ja) 画像間位置合わせ方法
JPS5923670A (ja) デイジタル画像入力時の傾き補正方法
JP2003296726A (ja) 図面変換方法、図面変換装置、図面変換プログラム及び記録媒体
JP3598039B2 (ja) 図形抽出方法
JP4435141B2 (ja) 文字認識装置、文字認識方法および文字認識プログラム
CN107680046A (zh) 影像矫正方法、装置、存储介质和计算机设备
JP2587812B2 (ja) 図形抽出方法
JP3275475B2 (ja) 文字配列が既知の対象文字列の認識装置
JP2001236464A (ja) 文字抽出方法、文字抽出装置及び記憶媒体
JP2982150B2 (ja) 文字パターン処理方法及び装置
JP2003271897A (ja) 文字認識装置、画像処理装置、画像処理方法及び同方法の実行に用いるプログラム
JP2933947B2 (ja) 画像処理方法及び装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061102

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091110

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101110

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111110

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111110

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121110

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121110

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131110

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees