JP2008227732A - 画像処理装置、画像処理方法、プログラムおよび記録媒体 - Google Patents

画像処理装置、画像処理方法、プログラムおよび記録媒体 Download PDF

Info

Publication number
JP2008227732A
JP2008227732A JP2007060529A JP2007060529A JP2008227732A JP 2008227732 A JP2008227732 A JP 2008227732A JP 2007060529 A JP2007060529 A JP 2007060529A JP 2007060529 A JP2007060529 A JP 2007060529A JP 2008227732 A JP2008227732 A JP 2008227732A
Authority
JP
Japan
Prior art keywords
edge
character
smoothness
image
halftone dot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007060529A
Other languages
English (en)
Other versions
JP4771428B2 (ja
Inventor
Noriko Miyagi
徳子 宮城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2007060529A priority Critical patent/JP4771428B2/ja
Publication of JP2008227732A publication Critical patent/JP2008227732A/ja
Application granted granted Critical
Publication of JP4771428B2 publication Critical patent/JP4771428B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】エッジの局所的な凹凸に着目し、滑らかなエッジであるか否かを判定することにより、網点上の文字エッジを網点絵柄中のエッジと切り分けて識別する。
【解決手段】画像属性判定手段20は、エッジ部の滑らかさに基づいて、文字エッジ領域を抽出する。フィルタ処理手段13は、エッジ量抽出手段30によるエッジ量と、画像属性判定手段20による文字エッジに応じて、網点部に対する平滑化処理、文字部に対するエッジ強調処理を行う。
【選択図】図1

Description

本発明は、スキャナで読み取った画像あるいはネットワークを介して取得した画像に対して、文字領域の識別を行い、識別結果に応じた最適な処理を施す画像処理装置、画像処理方法、プログラムおよび記録媒体に関する。
スキャナ読取画像から、白地上文字領域と絵柄領域(この場合は白地上文字領域以外の領域)を識別し、識別結果に応じてフィルタ、墨処理、擬似階調処理等の画像処理を切り換える装置がある。このような画像処理の切り換えは、文字を鮮鋭に再現し、絵柄はざらつきを抑えて再現するために行うものであり、本来であれば網点背景上の文字も白地上文字と同様に鮮鋭に再現したいが、網点上文字は網点絵柄中のエッジとの識別が困難であるため、絵柄部への影響を考慮して絵柄領域として処理している。
例えば、特許文献1、2では、白地上文字と網点上文字を区別することなく、文字領域と絵柄領域を識別している。どちらも画像を2値化し、2値信号の連続性により文字を識別する技術であるが、網点絵柄エッジが比較的急峻である場合は特に、網点上文字エッジを網点絵柄エッジと切り分けて識別できない。
図31(a)は、閾値th1で2値化処理した2値画像、図31(b)は、閾値th1よりも高濃度側の閾値th2で2値化処理した2値画像である。網点上文字エッジであっても、閾値を適切に設定することにより、図31(b)のように文字部を黒画素、網点背景を白画素として2値化することができる。網点背景が比較的高濃度である場合も、スキャナの特性上、網点のピーク濃度よりも線画の尾根濃度の方が、スキャナ読取値が高濃度になる傾向があり、殆どのケースにおいて閾値を適切に設定できれば図31(b)のような2値化結果が得られる。
図31(b)において、網点絵柄中のエッジと網点上の文字エッジの識別が課題になるが、両者の違いは網点絵柄中のエッジの方がエッジ部に局所的な凹凸があるのに対して、網点上の文字エッジは局所的に見ても本来の文字形状に沿った滑らかなエッジで構成されており、局所的な凹凸が非常に少ない、という点にある。横線あるいは縦線はスキャナ読取時のノイズにより比較的凹凸が出やすいが、それでも1ドット程度の凹凸である。
上記した特許文献1、2の場合、局所的な凹凸があっても文字エッジと判定してしまう。特許文献2は、2値化処理が特許文献1とは異なり、エッジ部だけ黒画素として抽出されるような2値化処理であるため、図31(b)のような2値画像から文字領域を識別するものではないが、エッジ部で黒画素が連なる比較的急峻な絵柄エッジの場合は、局所的な凹凸に関係なく文字領域として識別されてしまう。特許文献1、2が発明された当時、スキャナの解像度が今より格段に低く、網点形状が厳密に読み取られなかったためにエッジ部の局所的な形状で識別することが難しかったという事情もある。
特開平2−292957号公報 特開平1−227573号公報 特開2002−199210号公報
ところが、近年のスキャナの高解像度化に伴い、網点上文字を意識的に抽出する技術が提案されている。例えば、特許文献3では、網点上の文字を抽出しているが、網点上の文字エッジと網点絵柄中のエッジとを切り分けて識別していない。
本発明の目的は、エッジの局所的な凹凸に着目し、滑らかなエッジであるか否かを判定することにより、網点上の文字エッジを網点絵柄中のエッジと切り分けて識別する画像処理装置、画像処理方法、プログラムおよび記録媒体を提供することにある。
本発明は、画像のエッジ部の滑らかさを判定する滑らかさ判定手段と、前記エッジ部の滑らかさに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別手段を有することを最も主要な特徴とする。
請求項1:エッジの滑らかさを判定し、エッジの滑らかさに基づき、網点上の文字エッジを網点絵柄中のエッジと切り分けて識別するため、識別結果を利用して画像処理を切り換えた場合に、絵柄画質を損なわずに効果的に文字エッジに対して最適な画像処理を施すことができる。
請求項2:エッジの局所的な凹凸の有無に基づきエッジの滑らかさを判定するため、網点上の文字エッジと網点絵柄中エッジとを効果的に切り分けて識別することができる。
請求項3:エッジの傾きに応じて判定基準を異ならせ、縦線エッジと横線エッジは斜め線よりも比較的滑らかなエッジとして検出されやすい判定基準を用いて判定するため、スキャナ読取時に縦線および横線エッジで発生しやすいノイズに対応でき、精度良く文字エッジを抽出することができる。
請求項4〜6:左右あるいは上下方向に連続する滑らかなエッジを連続エッジとして検出し、立上りエッジおよび立下りエッジが共に滑らかなエッジであるペアエッジを検出し、滑らかなエッジ同士が交わる交点エッジを検出し、連続エッジやペアエッジや交点エッジに基づき文字絵柄識別を行うため、網点絵柄中のエッジに局所的に存在する滑らかなエッジを排除するのに有効であり、識別精度を高めることができる。
以下、発明の実施の形態について図面により詳細に説明する。
実施例1:
図1は、本発明の実施例1の構成を示す。スキャナ10は、原稿を読み取ることによりRGB信号からなる画像データを取得し、スキャナγ補正手段11はスキャナのγ特性を補正し、反射率リニアの信号から濃度リニアの信号へ変換する。スキャナ色補正12は、スキャナ特性に依存したRGB信号をスキャナに依存しないデバイス非依存のR’G’B’信号に変換する。
画像属性判定手段20は、RGB信号から文字エッジ領域を抽出する。文字エッジ領域には、白地上文字も網点上文字も含まれる。エッジ量抽出手段30は、R’G’B’信号から画像中のエッジらしさを表す信号であるエッジ量を抽出する。フィルタ処理手段13は、画像属性判定手段20およびエッジ量抽出手段30の結果に基づき、網点部の起伏を抑えてモアレを抑制する平滑化処理、および、文字部の鮮鋭性を高めるエッジ強調処理を行う。プリンタ色補正手段14は、デバイス非依存のR’G’B’信号からプリンタ特性に依存したC’M’Y’信号への変換を行う。
エッジ量抽出手段40は、C’M’Y’信号から画像中のエッジらしさを表す信号であるエッジ量を抽出する。UCR/墨生成15手段は、画像属性判定手段20およびエッジ量抽出手段40の結果に基づき、C’M’Y’データに応じてK信号を発生させ(墨生成)、C’M’Y’からKに応じた量を減ずる(下色除去(UCR))。CMYKはプリンタの色材色に対応している。UCR/墨生成後の信号に対して、プリンタγ補正手段16、擬似階調処理手段17による処理を施し、プリンタ18で記録媒体上に画像を出力する。プリンタγ補正手段16は、プリンタの濃度特性に合わせて濃度変換テーブルを用いた変換処理を行う。擬似階調処理手段17では、ディザや誤差拡散等の擬似中間調処理を行う。
図2は、画像属性判定手段20の構成を示す。RGB→CMY変換手段201は、原稿のプロセスカラーに対応したcmy信号に変換し、cmy信号各々に対して2値化(202、212、222)、エッジの滑らかさ判定(203、213、223)、連続エッジ検出(204、214、224)/ペアエッジ検出(205、215、225)/交点エッジ検出(206、216、226)、文字絵柄識別(207、217、227)を行い、OR208において各cmy信号から識別された文字エッジの論理和演算を行う。cmyいずれかの信号で文字エッジと識別されれば、画像属性判定手段20の結果は文字エッジになる。
RGB→CMY変換手段201は、次式(1)によりR’G’B’信号から原稿のプロセスカラーに対応したcmy信号への変換を行う。
c=a0+a1×R+a2×G+a3×B
m=b0+b1×R+b2×G+b3×B
y=c0+c1×R+c2×G+c3×B (式1)
a0〜a3、b0〜b3、c0〜c3は、プロセスカラーのカラーパッチをスキャナで読み込み、RGB読取値とカラーパッチの色の関係に基づき予め設定されたパラメータである。
図3(a)は、2値化手段202、212、222の構成を示す。ピーク画素検出は、注目画素が濃度変化の山を示す極点であるかどうかを、周囲の画素との濃度関係から判定するものである。M×M画素からなるブロック内において、中心画素の濃度レベルが他のすべての濃度レベルよりも高いときに、式2あるいは式3のようにして極点かどうかを判定する。式2によりピーク画素を検出しているのがピーク画素検出手段(3×3)231、式3によりピーク画素を検出しているのがピーク画素検出手段(5×5)232である。
M=3(図3(b))の場合、
(2m0−m1−m8)≧ΔmTH かつ、
(2m0−m2−m7)≧ΔmTH かつ、
(2m0−m3−m6)≧ΔmTH かつ、
(2m0−m4−m5)≧ΔmTH (式2)
M=5(図3(c))の場合、
(2m0−m1−m24)≧ΔmTH かつ、
(2m0−m7−m18)≧ΔmTH かつ、
(2m0−m3−m22)≧ΔmTH かつ、
(2m0−m8−m17)≧ΔmTH かつ、
(2m0−m5−m20)≧ΔmTH かつ、
(2m0−m9−m16)≧ΔmTH かつ、
(2m0−m11−m14)≧ΔmTH かつ、
(2m0−m12−m13)≧ΔmTH (式3)
つまり、中心画素を挟んで対称の位置にある2つの画素レベルの平均値と中心画素の濃度差が、閾値ΔmTHよりも大きいときに、中心画素をピークとして検出する。OR回路233において2つのピーク画素検出手段231と232のうちどちらか一方でもピーク画素として検出されればピーク画素と判定する。閾値設定手段234では、注目画素を中心として9×9画素内にあるピーク画素および画素値(cまたはmまたはyの値)からピーク画素の中から最も画素値が大きいもの(濃度が高いもの)を検出し、閾値=ピーク画素最大値+αとする。αは閾値に余裕を持たせるためのパラメータであり、CMY信号が各8bitの場合はα=10〜30程度の値に設定しておく。白画素/黒画素判定手段235は、c(またはmまたはy)の値が設定した閾値以上であれば黒画素、設定した閾値未満であれば白画素と判定する。これにより、網点上文字の平網部分は白画素と判定され、文字部分は(網点上の白抜き文字のようなものは例外として)網点よりも濃度が高いので、黒画素と判定される。
図4(a)は、エッジの滑らかさ判定手段203、213、223の構成を示す。P1パターンマッチング241は図4(b)のP1、P2パターンマッチング242は図4(b)のP2、P3パターンマッチング243は図4(b)のP3、P4パターンマッチング244は図4(b)のP4の3×3サイズの2値画像パターンとのパターンマッチングを行い、一致すれば「1」、不一致ならば「0」を出力する。
次に、各出力値に対して、横方向または縦方向の画素数カウントを行い、注目画素から見た4方向の領域に対して縦エッジまたは横エッジの抽出を行う。ここで抽出されるのは、左上縦エッジ/左下縦エッジ/右上縦エッジ/右下縦エッジ/左上横エッジ/右上横エッジ/左下横エッジ/右下横エッジの8つの2値信号である。
図5(a)−2のように、注目画素を中心として参照領域を4等分し、左上領域に縦線の左側エッジ(立上りエッジ)があるとき左上縦エッジ、左下領域に縦線の左側エッジ(立上りエッジ)があるとき左下縦エッジとして抽出する。
図5(a)−1、(a)−3のように、45°〜135°の傾きがある場合も、左上縦エッジおよび左下縦エッジの抽出対象とする。
縦線の右側エッジも同様に、図5(b)−2のように、右上領域に縦線の右側エッジ(立下りエッジ)があるとき右上縦エッジ、右下領域に縦線の右側エッジ(立下りエッジ)があるとき右下縦エッジとして抽出し、45°〜135°の傾きがある場合も抽出対象とする(図5(b)−1、(b)−3)。
図5(c)−2のように、注目画素を中心として参照領域を4等分し、左上領域に横線の上側エッジ(立上りエッジ)があるとき左上横エッジ、右上領域に横線の上側エッジ(立上りエッジ)があるとき右上横エッジとして抽出する。図5(c)−1、(c)−3のように、−45°〜45°の傾きがある場合も左上横エッジおよび右上横エッジの抽出対象とする。
横線の下側エッジも同様に、図5(d)−2のように、左下領域に横線の下側エッジ(立下りエッジ)があるとき左下横エッジ、右下領域に横線の下側エッジ(立下りエッジ)があるとき右下横エッジとして抽出し、−45°〜45°の傾きがある場合も抽出対象とする(図5(d)−1、(d)−3)。なお、図5(a)〜(d)では、参照領域内に対となるエッジが存在する比較的細い線を例に図示したが、図5(e)−1のように、対となるエッジが参照領域内には存在しない太い線のエッジに関しても同じく、左上縦エッジや左下縦エッジを抽出する。また、ここで抽出するのは直線だけでなく、図5(e)−2のように、滑らかな曲線のエッジも含めて左上縦エッジや左下縦エッジを抽出する。
図6(a)は、横方向画素数カウント手段245および横方向画素数カウント手段246の処理を説明する図である。注目画素を挟んで横方向13画素のパターンマッチング結果が(1)の場合を例に説明する。パターンマッチング結果に対して、画素位置に対応した(2)横方向画素数カウント用の重みを各々乗算する。重みは、注目画素位置でゼロ、離れるに従って絶対値が大きくなるものであり、左方向がマイナス、右方向がプラスである。つまり、(1)×(2)の結果はパターンにマッチした画素が注目画素から数えて左右どちらの方向に何画素離れた画素位置に存在するかを求めたものになっている。パターンにマッチした画素のうち注目画素に最も近い画素の位置((1)×(2)の結果から、絶対値が最小になるものを選択する)を横方向画素数カウントの結果として出力する。ただし、(1)パターンマッチング結果が参照領域内で全てゼロの場合は、画素数カウントの結果は最大値「7」を出力する。
図6(b)は、縦方向画素数カウント手段247および縦方向画素数カウント手段248の処理を説明する図である。注目画素を挟んで縦方向13画素のパターンマッチング結果が(1)の場合を例に説明する。パターンマッチング結果に対して、画素位置に対応した(2)縦方向画素数カウント用の重みを各々乗算する。重みは、注目画素位置でゼロ、離れるに従って絶対値が大きくなるものであり、上方向がマイナス、下方向がプラスである。つまり、(1)×(2)の結果はパターンにマッチした画素が注目画素から数えて上下どちらの方向に何画素離れた画素位置に存在するかを求めたものになっている。パターンにマッチした画素のうち注目画素に最も近い画素の位置((1)×(2)の結果から、絶対値が最小になるものを選択する)を縦方向画素数カウントの結果として出力する。ただし、(1)パターンマッチング結果が参照領域内で全てゼロの場合は、画素数カウントの結果は最大値「7」を出力する。
図7(a)は、左上縦エッジ抽出手段249および右上縦エッジ手段抽出手段251の参照領域と抽出条件を説明する図である。横方向画素数カウントの結果y1〜y7を縦方向に注目画素(y7)を含む上7画素参照し、(1)縦線の抽出条件、(2)斜め線の抽出条件(滑らかな曲線も含む)のいずれかを満たせば、左上縦エッジまたは右上縦エッジとして「1」を出力、どちらも満たさなければ「0」を出力する。(1)縦線の抽出条件および(2)斜め線の抽出条件ともに、第1の条件は、7画素全ての横方向画素数カウントの結果が「7」より小さいこと、つまり、横方向に必ずパターンマッチングでマッチした画素が存在することである。(1)縦線の抽出条件の第2の条件は、横方向画素数カウントの最大値と最小値の差分が1以下であることである。(2)斜め線の抽出条件の第2の条件は、横方向画素数カウントの結果が上から下に向かって降順に並んでいることである。(1)縦線の抽出条件の方は、完全にノイズの無い縦線は勿論のこと、図31(b)の網点上文字画像の例のように、縦線に1ドットが突起状に付いている場合も縦線として抽出する条件になっており、斜め線よりも判定条件をやや緩くしている。
図7(b)は、左下縦エッジ抽出手段250および右下縦エッジ抽出手段252の参照領域と抽出条件を説明する図である。横方向画素数カウントの結果y7〜y13を縦方向に注目画素(y7)を含む下7画素参照する。それ以外は図7(a)の左上縦エッジ抽出手段249および右上縦エッジ抽出手段251と同様である。
図8(a)は、左上横エッジ抽出手段253および左下横エッジ抽出手段255の参照領域と抽出条件を説明する図である。縦方向画素数カウントの結果t1〜t7を横方向に注目画素(y7)を含む左7画素参照し、(1)横線の抽出条件、(2)斜め線の抽出条件(滑らかな曲線も含む)のいずれかを満たせば、左上横エッジまたは左下横エッジとして「1」を出力、どちらも満たさなければ「0」を出力する。(1)横線の抽出条件および(2)斜め線の抽出条件ともに、第1の条件は、7画素全ての縦方向画素数カウントの結果が「7」より小さいこと、つまり、縦方向に必ずパターンマッチングでマッチした画素が存在することである。(1)横線の抽出条件の第2の条件は、縦方向画素数カウントの最大値と最小値の差分が1以下であることである。(2)斜め線の抽出条件の第2の条件は、縦方向画素数カウントの結果が左から右に向かって降順に並んでいることである。(1)横線の抽出条件の方は、完全にノイズの無い横線は勿論のこと、横線に1ドットが突起状に付いている場合も縦線として抽出する条件になっており、斜め線よりも判定条件をやや緩くしている。
図8(b)は、右上横エッジ抽出手段254および右下横エッジ抽出手段256の参照領域と抽出条件を説明する図である。縦方向画素数カウントの結果t7〜t13を横方向に注目画素(t7)を含む右7画素参照する。それ以外は図8(a)の左上横エッジ抽出手段253および左下横エッジ抽出手段255と同様である。
以上、説明した各エッジの抽出条件のうち、第2の条件として説明したものが、エッジの滑らかさを判定する条件に該当し、参照領域内における局所的な凹凸の有無を判定している。
図9は、連続エッジ検出手段204、214、224の構成を示す。図9に示すように、論理積演算(AND)261〜264および論理和演算(OR)265で構成される。例えば図12(a)のように、注目画素が左上縦エッジかつ左下縦エッジの場合、連続エッジとして検出される。滑らかな線が連続する場合に連続エッジが検出され、主に太い文字や線のエッジが検出される。
図10は、ペアエッジ検出手段205、215、225の構成を示す。図10に示すように、論理積演算(AND)271〜274および論理和演算(OR)275で構成される。例えば図12(b)のように、注目画素が左上縦エッジかつ右上縦エッジ、または、左下縦エッジかつ右下縦エッジの場合、ペアエッジとして検出される。主に細い文字や線が検出される。また、図12(c)のように、端点付近のエッジもペアエッジとして検出される。
図11は、交点エッジ検出手段206、216、226の構成を示す。図11に示すように、論理積演算(AND)281〜288および論理和演算(OR)289で構成される。例えば図12(d)のように、注目画素が右上横エッジかつ左下縦エッジの場合、交点エッジとして検出される。主に文字を構成する線同士の交点、太文字の端点、折れ線の角付近が検出される。
図13は、文字絵柄識別手段207、217、227の構成を示す。太文字(太線)エッジおよび細文字(細線)エッジをそれぞれ識別し、OR295で太文字エッジまたは細文字エッジであれば文字エッジとして識別する。太文字エッジの抽出は、補正手段291で補正を行い、その結果を膨張手段292で膨張する。太文字エッジでは、連続エッジ/ペアエッジ/交点エッジのうち、連続エッジと交点エッジが抽出されるはずである。補正手段291では、5×5の参照領域内の画素全てにおいて連続エッジまたは交点エッジが検出されていれば「1」を出力し、連続エッジでも交点エッジでもない画素が存在する場合は「0」を出力する。膨張手段292は、9×9画素の補正手段291の結果を参照し、「1」が存在すれば太文字エッジとして抽出する。細文字エッジの抽出は、補正手段293で補正を行い、その結果を膨張手段294で膨張する。細文字エッジでは、連続エッジ/ペアエッジ/交点エッジのうち、ペアエッジと交点エッジが抽出されるはずである。補正手段293では5×5の参照領域内の画素全てにおいてペアエッジまたは交点エッジが検出されていれば「1」を出力し、ペアエッジでも交点エッジでもない画素が存在する場合は「0」を出力する。膨張手段294は、9×9画素の補正手段293の結果を参照し、「1」が存在すれば細文字エッジとして抽出する。
エッジの滑らかさ判定から文字絵柄識別までの処理を、網点上文字エッジの場合、網点絵柄中エッジの場合の2つの具体例で説明する。
(エッジの滑らかさ判定の具体例1)
図14は、網点上文字エッジの2値化後の画像である。図15は、図14の画像に対するP1パターンマッチング241の結果と横方向画素数カウント手段245の結果であり、左上縦エッジ、左下縦エッジともに、横方向画素数カウント結果=7が存在するので、抽出結果は「0」になる。
図16は、図14の画像に対するP2パターンマッチング242の結果と横方向画素数カウント手段246の結果であり、右上縦エッジ、右下縦エッジともに、横方向画素数カウント結果=7が存在するので、抽出結果は「0」になる。
図17は、図14の画像に対するP3パターンマッチング243の結果と縦方向画素数カウント手段247の結果であり、左上横エッジ、右上横エッジともに、縦方向画素数カウント結果が全て7未満、かつ、左から右に向かって降順に並んでいるので、抽出結果は「1」になる。
図18は、図14の画像に対するP4パターンマッチング244の結果と縦方向画素数カウント手段248の結果であり、左下横エッジ、右下横エッジともに、縦方向画素数カウント結果が全て7未満、かつ、左から右に向かって降順に並んでいるので、抽出結果は「1」になる。
以上の各抽出結果から、図14の画像に対するエッジの滑らかさ判定の結果、滑らかなエッジであるとして抽出されるのは、左上横エッジ、右上横エッジ、左下横エッジ、右下横エッジ、ということになる。これは連続エッジおよびペアエッジとして検出され、(補正手段293で排除されなければ)最終的に文字エッジとして識別される。
(エッジの滑らかさ判定の具体例2)
図19は、網点絵柄中エッジの2値化後の画像である。図20は、図19の画像に対するP1パターンマッチング241の結果と横方向画素数カウント手段245の結果である。左上縦エッジは、横方向画素数カウント結果が全て7未満、かつ、上から下に向かって降順に並んでいるので抽出結果は「1」、左下縦エッジは、横方向画素数カウント結果=7が存在するので抽出結果は「0」になる。
図21は、図19の画像に対するP2パターンマッチング242の結果と横方向画素数カウント手段246の結果であり、右上縦エッジは、横方向画素数カウント結果=7が存在するので抽出結果は「0」、右下縦エッジは、横方向画素数カウント結果が全て7未満、かつ、上から下に向かって降順に並んでいるので抽出結果は「1」になる。
図22は、図19の画像に対するP3パターンマッチング243の結果と縦方向画素数カウント手段247の結果であり、左上横エッジは、縦方向画素数カウント結果が全て7未満であるが左から右に向かって降順に並んでいないため抽出結果は「0」、右上横エッジは、縦方向画素数カウント結果が全て7未満、かつ、左から右に向かって降順に並んでいるので抽出結果は「1」になる。
図23は、図19の画像に対するP4パターンマッチング244の結果と縦方向画素数カウント手段248の結果であり、左下横エッジは、縦方向画素数カウント結果が全て7未満、かつ、左から右に向かって降順に並んでいるので抽出結果は「1」、右下横エッジは、縦方向画素数カウント結果が全て7未満であるが左から右に向かって降順に並んでいないため抽出結果は「0」になる。
以上の各抽出結果から、図19の画像に対するエッジの滑らかさ判定の結果、滑らかなエッジであるとして抽出されるのは、左上縦エッジ、右下縦エッジ、右上横エッジ、左下横エッジ、ということになる。これは連続エッジ、ペアエッジ、交点エッジのいずれでもなく、最終結果は文字エッジでないということになる。注目すべきは、左上横エッジと右下横エッジが、参照領域に局所的な凹凸があるため滑らかなエッジでないと判定され、抽出されない点であり、これにより絵柄エッジを文字エッジとして誤って識別してしまうことを防いでいる。
図24は、エッジ量抽出手段30の構成を示す。信号合成手段301は、R’G’B’信号を合成((R’+2G’+B’)/4)して1信号に変換し、エッジ量検出手段302においてエッジ量を検出する。
図25(a)は、エッジ量検出手段302の構成を示す。エッジ量検出フィルタ303〜306(1〜4)では、それぞれ図25(b)〜(e)に示した4種類の7×7フィルタを使用して、マスキング演算を行う。4つの出力のうち絶対値が最大のものを最大値選択手段311で選択し、出力する。
図26は、フィルタ処理手段13の構成を示す。平滑化手段131およびエッジ強調手段132のフィルタ処理を行い、2つのフィルタ処理の結果を合成手段133は、エッジ量および文字エッジに応じた割合で合成する。文字エッジである場合は、エッジ量に応じて、エッジ量最大のときに平滑化結果:エッジ強調結果を1:10、エッジ量最小のときに1:0(平滑化結果のみ有効)、エッジ量が中間の値の場合は中間的な割合で合成する。文字エッジでない場合は常に1:0の割合で合成する。白地上文字エッジおよび網点上文字エッジを強調して鮮鋭に再現し、絵柄部は滑らかに粒状性良く再現するのに有効である。
図27は、エッジ量抽出手段40の構成を示す。C’M’Y’各色毎にエッジ量検出手段401、402、403は多値のエッジ量を検出する。エッジ量検出手段の構成は、エッジ量抽出手段30のものと同様である(図25(a))。ただし、エッジ量検出フィルタは図27(b)〜(e)の5×5サイズのものを使用する。フィルタ処理後の信号からのエッジ量検出であるため、解像度の違いを考慮して検出フィルタのサイズを変えている。最大値選択手段404は、検出した3色のエッジ量のうち最大のものを選択する。一方、信号合成手段405は、C’M’Y’の3信号を所定の割合で足し合わせて1信号に変換する。例えば(C’×1/4+M’×2/4+Y’×1/4)を合成信号として出力する。ラプラシアンフィルタ演算手段406は、合成信号に対して図27(f)のフィルタを使用してマスキング演算を行い、符号判定手段407は正の値か否かを判定する。正なら1、負なら0を出力する。内側エッジ量抽出手段408は、符号判定手段407の結果が「1」である場合に、最大値選択手段404の出力値をそのまま出力する。符号判定手段407の結果が「0」の場合は、エッジ量をキャンセルして0を出力する。ラプラシアンフィルタ演算手段406の出力値は、文字の内側エッジに相当するエッジの高濃度側では正の値、文字の外側エッジに相当するエッジの低濃度側では負の値を出力するため、これを利用し、ラプラシアンが正の内側エッジでのみエッジ量を有効にし、ラプラシアンが負の外側エッジではエッジ量を無効にしている。N値化手段409においてN値に量子化する。Nは、エッジ量抽出結果の適用先であるUCR/墨生成手段15において、処理を何段階で制御するかに応じて決まるものであるが、ここでは説明を簡単にするため2段階で制御するものとし、0〜63の値で抽出された内側エッジ量を0/1(N=2)に量子化しておく。
UCR/墨生成手段15は、墨生成、UCRともに式で行う方法、LUTで行う方法等があるが、本実施例では墨生成をLUTで行い、UCRを式で行う場合について説明する。図28は、墨生成のLUTである。墨生成では、C’、M’、Y’(0が白、255が黒)の最小値Min(C’、M’、Y’)を算出し、これをLUTへ入力して出力値を得る。UCRは次の式により行う。αはUCR調整パラメータである。
C=C’−α×K
M=C’−α×K
Y=C’−α×K (式4)
文字エッジかつエッジ量抽出手段40の出力値が「1」の場合、墨生成テーブル−1を使用し、Min(C、M’Y’)をそのままKに置き換え、UCR調整パラメータはα=1とする。その他の場合は、墨生成テーブル−2を使用し、ハイライトではKを発生させず中間から徐々にKを発生させる。UCR調整パラメータはα=0.5とする。フィルタ処理のようにエッジ量を多値で求め、中間的な墨生成テーブルをいくつも準備して多段階制御しても良い。このように墨生成およびUCRを切り換えることにより、文字(黒文字)を鮮鋭に色付きなく再現し、絵柄を高階調に再現することができる。
以上、本実施例によれば、エッジの局所的な凹凸に着目し、滑らかなエッジであるか否かを判定することで、網点上文字エッジを網点絵柄中エッジと切り分けて識別することができる。更に、識別結果をフィルタ処理、墨処理に適用することにより、網点上文字エッジと網点絵柄の高画質再生を両立できる。なお、本実施例では文字絵柄識別結果をフィルタ処理と墨処理に適用する例を示したが、色補正や擬似階調処理など、様々な高画質化処理に文字絵柄識別結果を使用する従来技術があり、それらに本発明の識別結果を適用しても勿論有効である。
実施例2:
実施例1では、本発明の文字絵柄識別結果を高画質化処理に適用する例を示した。実施例2では、高画質化ではなく画質加工的な処理であるトナーセーブ処理に適用する例を示す。トナーセーブ処理は、濃度を下げて出力することにより、トナー消費量を抑える処理である。なお、“トナーセーブ”のトナーとは、粉体トナーに限らない。液体トナー(インク)もこれに含まれる。
図29は、本発明の実施例2の構成を示す。操作パネル50では、ユーザーがトナーセーブモードで出力したい場合にトナーセーブモードを選択指定することができる。ユーザーがトナーセーブモードを指定した場合、トナーセーブ処理手段19がトナーセーブ処理を行う。
トナーセーブ処理手段19は、操作パネル50からの信号、および、画像属性判定手段20の結果(文字エッジであるか否か)、および、エッジ量抽出手段40の出力値に応じて、トナーセーブ処理を切り換える。
トナーセーブ処理は、図30のγ変換により行う。トナーセーブγ−1を使用した場合、入力値=出力値になり、濃度がそのまま保存され、実質的にトナーセーブ処理が行われないことになる。トナーセーブγ−2を使用した場合、入力値に対して出力値が50%程度になる処理が施される。操作パネル50でトナーセーブモードが指定されない場合は、常にトナーセーブγ−1を使用する。操作パネル50でトナーセーブモードが指定された場合は、文字エッジであり、かつ、エッジ量抽出の出力値が「1」である場合、トナーセーブγ−1を使用してトナーセーブ処理を行う(実質的に行わない)。その他の場合は、トナーセーブγ−2を使用する。
これにより、トナーセーブモード設定時、白地上文字エッジおよび網点上文字エッジの濃度を保存することで文字判読性を維持しつつ、絵柄部に対して効果的にトナーを節約し、かつ、網点絵柄中エッジが文字エッジのように濃度保存されてしまう画質上の不具合(文字絵柄識別の精度が悪いと頻繁に発生してしまう不具合)を抑えて絵柄部でも良好なトナーセーブ画像を生成することができる。
以上、実施例2によれば、実施例1の文字絵柄識別をトナーセーブ処理に適用することにより、文字判読性の維持、絵柄画質の不具合の抑制、トナーの節約効果の発揮を同時に達成することができる。このように、本発明の識別技術は高画質化のための画像処理に限定されるものではなく、適用範囲は極めて広い。ここで挙げたトナーセーブもその適用例の一つであり、この他に例えば文字絵柄を識別して圧縮方式を変えることで圧縮効率を高める技術等に適用しても効果的である。
また、本発明は、前述した実施例の処理手順や機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(CPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても達成される。この場合、記憶媒体から読出されたプログラムコード自体が前述した実施例の処理手順や機能を実現することになる。プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。また、コンピュータが読出したプログラムコードを実行することにより、前述した実施例の処理手順や機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施例の処理手順や機能が実現される場合も含まれる。さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施例の処理手順や機能が実現される場合も含まれる。
本発明の実施例1の構成を示す。 画像属性判定手段の構成を示す。 2値化手段の構成を示す。 エッジの滑らかさ判定手段の構成を示す。 抽出対象となるエッジ例を示す。 横/縦方向画素数カウント手段の処理を説明する図である。 左上/右上縦エッジ抽出手段、左下/右下縦エッジ抽出手段の参照領域と抽出条件を説明する図である。 左上/左下横エッジ抽出手段、右上/右下横エッジ抽出手段の参照領域と抽出条件を説明する図である。 連続エッジ検出手段の構成を示す。 ペアエッジ検出手段の構成を示す。 交点エッジ検出手段の構成を示す。 連続エッジ、ペアエッジ、交点エッジの検出を説明する図である。 文字絵柄識別手段の構成を示す。 網点上文字エッジの2値化後の画像を示す。 図14の画像に対するP1パターンマッチングの結果と横方向画素数カウント手段の結果を示す。 図14の画像に対するP2パターンマッチングの結果と横方向画素数カウント手段の結果を示す。 図14の画像に対するP3パターンマッチングの結果と縦方向画素数カウント手段の結果を示す。 図14の画像に対するP4パターンマッチングの結果と縦方向画素数カウント手段の結果を示す。 網点絵柄中エッジの2値化後の画像を示す。 図19の画像に対するP1パターンマッチングの結果と横方向画素数カウント手段の結果を示す。 図19の画像に対するP2パターンマッチングの結果と横方向画素数カウント手段の結果を示す。 図19の画像に対するP3パターンマッチングの結果と縦方向画素数カウント手段の結果を示す。 図19の画像に対するP4パターンマッチングの結果と縦方向画素数カウント手段の結果を示す。 エッジ量抽出手段の構成を示す。 エッジ量検出手段の構成を示す。 フィルタ処理手段の構成を示す。 エッジ量抽出手段の構成を示す。 墨生成のLUTを示す。 本発明の実施例2の構成を示す。 トナーセーブ処理を説明する図である。 従来の課題を説明する図である。
符号の説明
10 スキャナ
11 スキャナγ補正手段
12 スキャナ色補正手段
13 フィルタ処理手段
14 プリンタ色補正手段
15 UCR/墨処理手段
16 プリンタγ補正手段
17 擬似中間調処理手段
18 プリンタ
20 画像属性判定手段
30、40 エッジ量抽出手段

Claims (14)

  1. 画像のエッジ部の滑らかさを判定する滑らかさ判定手段と、前記エッジ部の滑らかさに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別手段を有することを特徴とする画像処理装置。
  2. 前記滑らかさ判定手段は、前記画像の参照領域内におけるエッジの局所的な凹凸の有無に基づき滑らかなエッジであるか否かを判定することを特徴とする請求項1記載の画像処理装置。
  3. 前記滑らかさ判定手段は、前記エッジの傾きに応じて判定基準を異ならせ、水平方向あるいは垂直方向のエッジに対して、滑らかなエッジが検出されやすい判定基準を適用することを特徴とする請求項1記載の画像処理装置。
  4. 画像のエッジ部の滑らかさを判定する滑らかさ判定手段と、左右あるいは上下方向に連続する滑らかなエッジを検出する連続エッジ検出手段と、前記連続エッジに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別手段を有することを特徴とする画像処理装置。
  5. 画像のエッジ部の滑らかさを判定する滑らかさ判定手段と、立上りエッジおよび立下りエッジが共に滑らかなエッジであるペアエッジを検出するペアエッジ検出手段と、前記ペアエッジに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別手段を有することを特徴とする画像処理装置。
  6. 画像のエッジ部の滑らかさを判定する滑らかさ判定手段、前記滑らかなエッジ同士が交わる交点エッジを検出する交点エッジ検出手段と、前記交点エッジに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別手段を有することを特徴とする画像処理装置。
  7. 画像のエッジ部の滑らかさを判定する滑らかさ判定工程と、前記エッジ部の滑らかさに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別工程を有することを特徴とする画像処理方法。
  8. 前記滑らかさ判定工程は、前記画像の参照領域内におけるエッジの局所的な凹凸の有無に基づき滑らかなエッジであるか否かを判定することを特徴とする請求項7記載の画像処理方法。
  9. 前記滑らかさ判定工程は、前記エッジの傾きに応じて判定基準を異ならせ、水平方向あるいは垂直方向のエッジに対して、滑らかなエッジが検出されやすい判定基準を適用することを特徴とする請求項7記載の画像処理方法。
  10. 画像のエッジ部の滑らかさを判定する滑らかさ判定工程と、左右あるいは上下方向に連続する滑らかなエッジを検出する連続エッジ検出工程と、前記連続エッジに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別工程を有することを特徴とする画像処理方法。
  11. 画像のエッジ部の滑らかさを判定する滑らかさ判定工程と、立上りエッジおよび立下りエッジが共に滑らかなエッジであるペアエッジを検出するペアエッジ検出工程と、前記ペアエッジに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別工程を有することを特徴とする画像処理方法。
  12. 画像のエッジ部の滑らかさを判定する滑らかさ判定工程、前記滑らかなエッジ同士が交わる交点エッジを検出する交点エッジ検出工程と、前記交点エッジに基づき、網点上文字エッジを網点絵柄中のエッジと切り分けて識別する文字絵柄識別工程を有することを特徴とする画像処理方法。
  13. 請求項7乃至12のいずれか1項に記載の画像処理方法をコンピュータに実現させるためのプログラム。
  14. 請求項7乃至12のいずれか1項に記載の画像処理方法をコンピュータに実現させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2007060529A 2007-03-09 2007-03-09 画像処理装置、画像処理方法、プログラムおよび記録媒体 Expired - Fee Related JP4771428B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007060529A JP4771428B2 (ja) 2007-03-09 2007-03-09 画像処理装置、画像処理方法、プログラムおよび記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007060529A JP4771428B2 (ja) 2007-03-09 2007-03-09 画像処理装置、画像処理方法、プログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2008227732A true JP2008227732A (ja) 2008-09-25
JP4771428B2 JP4771428B2 (ja) 2011-09-14

Family

ID=39845843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007060529A Expired - Fee Related JP4771428B2 (ja) 2007-03-09 2007-03-09 画像処理装置、画像処理方法、プログラムおよび記録媒体

Country Status (1)

Country Link
JP (1) JP4771428B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011199696A (ja) * 2010-03-23 2011-10-06 Brother Industries Ltd 画像処理装置
JP2013156930A (ja) * 2012-01-31 2013-08-15 Brother Ind Ltd エッジ検出装置、画像データ処理装置、該画像データ処理装置を備える液体吐出装置、エッジ検出方法及びエッジ検出プログラム
JP2015005959A (ja) * 2013-06-24 2015-01-08 株式会社リコー 画像処理方法、装置及びプログラム
JP2015020417A (ja) * 2013-07-23 2015-02-02 セイコーエプソン株式会社 記録装置及び乾燥方法
CN117152149A (zh) * 2023-10-31 2023-12-01 江苏盟星智能科技有限公司 用于晶圆切割的边缘平滑度检测方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002199210A (ja) * 2000-12-25 2002-07-12 Minolta Co Ltd 画像処理装置
JP2002305654A (ja) * 2001-04-04 2002-10-18 Sharp Corp 画像処理装置およびそれを用いた画像形成装置、画像処理方法ならびに記録媒体
JP2003018403A (ja) * 2001-07-05 2003-01-17 Ricoh Co Ltd 画像処理装置
JP2003224718A (ja) * 2002-01-30 2003-08-08 Sharp Corp 画像処理方法および画像処理装置
JP2004214977A (ja) * 2002-12-27 2004-07-29 Sharp Corp 画像処理装置およびそれを備えた画像形成装置ならびに画像処理方法、画像処理プログラムおよび記録媒体
JP2004252733A (ja) * 2003-02-20 2004-09-09 Hitachi Software Eng Co Ltd 画像処理システム、画像処理用プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002199210A (ja) * 2000-12-25 2002-07-12 Minolta Co Ltd 画像処理装置
JP2002305654A (ja) * 2001-04-04 2002-10-18 Sharp Corp 画像処理装置およびそれを用いた画像形成装置、画像処理方法ならびに記録媒体
JP2003018403A (ja) * 2001-07-05 2003-01-17 Ricoh Co Ltd 画像処理装置
JP2003224718A (ja) * 2002-01-30 2003-08-08 Sharp Corp 画像処理方法および画像処理装置
JP2004214977A (ja) * 2002-12-27 2004-07-29 Sharp Corp 画像処理装置およびそれを備えた画像形成装置ならびに画像処理方法、画像処理プログラムおよび記録媒体
JP2004252733A (ja) * 2003-02-20 2004-09-09 Hitachi Software Eng Co Ltd 画像処理システム、画像処理用プログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011199696A (ja) * 2010-03-23 2011-10-06 Brother Industries Ltd 画像処理装置
CN102211476A (zh) * 2010-03-23 2011-10-12 兄弟工业株式会社 图像处理装置
US8786894B2 (en) 2010-03-23 2014-07-22 Brother Kogyo Kabushiki Kaisha Image processing apparatus
US9087290B2 (en) 2010-03-23 2015-07-21 Brother Kogyo Kabushiki Kaisha Image processing apparatus
JP2013156930A (ja) * 2012-01-31 2013-08-15 Brother Ind Ltd エッジ検出装置、画像データ処理装置、該画像データ処理装置を備える液体吐出装置、エッジ検出方法及びエッジ検出プログラム
JP2015005959A (ja) * 2013-06-24 2015-01-08 株式会社リコー 画像処理方法、装置及びプログラム
JP2015020417A (ja) * 2013-07-23 2015-02-02 セイコーエプソン株式会社 記録装置及び乾燥方法
CN117152149A (zh) * 2023-10-31 2023-12-01 江苏盟星智能科技有限公司 用于晶圆切割的边缘平滑度检测方法及系统
CN117152149B (zh) * 2023-10-31 2024-01-26 江苏盟星智能科技有限公司 用于晶圆切割的边缘平滑度检测方法及系统

Also Published As

Publication number Publication date
JP4771428B2 (ja) 2011-09-14

Similar Documents

Publication Publication Date Title
US8477324B2 (en) Image processor and image processing method that uses s-shaped gamma curve
US7227990B2 (en) Color image processing device and color image processing method
US10115011B2 (en) Document type recognition apparatus, image forming apparatus, document type recognition method, and computer program product
JP4793874B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP6221402B2 (ja) 画像処理装置、画像処理方法及びプログラム
US8345310B2 (en) Halftone frequency determination method and printing apparatus
JP4170353B2 (ja) 画像処理方法、画像処理装置、画像読取装置、画像形成装置、プログラムおよび記録媒体
US8395817B2 (en) Image processing apparatus and method determines attributes of image blocks based on pixel edge intensities relative to normalized and fixed thresholds
JP2008011267A (ja) 画像処理装置、画像処理方法、画像処理プログラム及び記憶媒体
JP2007235583A (ja) 画像処理装置、方法、プログラムおよび記録媒体
US7460272B2 (en) Image processing apparatus, image processing method, and image processing program
KR20080006112A (ko) 경계 영역의 선명도를 개선하는 하프토닝 방법 및 장치
JP2007311836A (ja) 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP2006197037A (ja) 画像処理装置、画像形成装置、画像読取処理装置、画像処理方法、画像処理プログラムおよびコンピュータ読み取り可能な記録媒体
JP4771428B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP2000278523A (ja) 画像処理装置およびこれを搭載した画像読取装置と画像形成装置、並びに画像処理方法、および画像処理手順を記憶したコンピュータ読み取り可能な記憶媒体
US9948824B2 (en) Image compressing device, image forming apparatus, image compressing method, and recording medium
JP2004214977A (ja) 画像処理装置およびそれを備えた画像形成装置ならびに画像処理方法、画像処理プログラムおよび記録媒体
JP4502001B2 (ja) 画像処理装置および画像処理方法
JP4228466B2 (ja) 画像処理装置、画像処理方法、および画像処理手順を記憶したコンピュータ読み取り可能な記憶媒体
JP6566277B2 (ja) 画像処理装置
JP3942080B2 (ja) 画像形成装置
JP4846681B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラムが格納されたコンピュータ読み取り可能な記憶媒体
JP4080252B2 (ja) 画像処理装置、画像形成装置、画像処理方法、プログラムおよび記録媒体
JP2006270655A (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110126

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110413

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110615

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110616

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140701

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees