JP4158696B2 - 画像処理装置、画像処理方法、プログラム及び記録媒体 - Google Patents

画像処理装置、画像処理方法、プログラム及び記録媒体 Download PDF

Info

Publication number
JP4158696B2
JP4158696B2 JP2003422666A JP2003422666A JP4158696B2 JP 4158696 B2 JP4158696 B2 JP 4158696B2 JP 2003422666 A JP2003422666 A JP 2003422666A JP 2003422666 A JP2003422666 A JP 2003422666A JP 4158696 B2 JP4158696 B2 JP 4158696B2
Authority
JP
Japan
Prior art keywords
noise
determined
image
area
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003422666A
Other languages
English (en)
Other versions
JP2005184490A (ja
Inventor
啓嗣 小島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2003422666A priority Critical patent/JP4158696B2/ja
Publication of JP2005184490A publication Critical patent/JP2005184490A/ja
Application granted granted Critical
Publication of JP4158696B2 publication Critical patent/JP4158696B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は画像処理に関し、詳しくは入力画像からノイズを除去する技術に関する。
複写機、スキャナー等の画像機器より原稿を入力する際に、入力画像の全面にゴマ塩状の孤立点ノイズや、周辺部にベタノイズ、またパンチ穴の跡などが発生する場合がある。これらのノイズは、画像機器を利用するユーザーにとっては必要の無い情報であるため、自動的に除去されることが望ましい。
ノイズ除去に関する技術としては次のような従来技術がある。
例えばノイズ判断過程で得られたノイズについてのデータ、確信度データ、およびノイズ除去過程で除去されたノイズ画像を編集データとして管理する。確信度データに基づく着色、編集、処理順序指定等を行い、誤って判断されたノイズの修正作業を行う(特許文献1)。また、特許文献2では、ノイズ候補をカラーで表示して確認しながらノイズ判定条件を変更できるようになっている。さらに、特許文献3では、連結黒画素に外接する連結黒画素矩形を求め、連結黒画素矩形の座標と連結黒画素数を連結黒画素矩形情報リストとして格納するようになっている。
なお、特定の種類のノイズを除去する技術としては、紙面全域に現れる孤立点(ゴマ塩)ノイズの除去のための従来技術として特許文献4、また、原稿の周辺(用紙の境界部分)に現れる周辺ノイズの除去のための従来技術として特許文献5、パンチ穴の除去については特許文献6等がある。
特開2003−204434公報 特開平05−81424号公報 特開平08−22507号公報 特開2002−262093公報 特開2002−271629公報 特願2002−237403
しかし、実際は、ノイズと本来除去してはいけない情報(文字、写真、図など)の区別が100%確かではないため、誤って本来除去してはいけない情報の欠落が起きてしまうことがある。このような場合は、ノイズ除去後の画像に対して修正作業を行う必要がある。
本発明は、上述した実情を考慮してなされたもので、ノイズ除去の精度は100%ではないことを前提に、ノイズ除去後の修正作業を効率良く行うことが可能な画象処理装置、画象処理方法、および画像処理プログラム並びに記録媒体を提供することを目的とする。 なお、本明細書で言う修正作業とは、ノイズ除去により、情報(文字、点線など)が、誤ってノイズと判断されたものを復活させ(ノイズではない状態に戻す)、また、本来ノイズなのにノイズではないと判断されたものを解除(ノイズの状態に変更)する作業のことである。
上記の課題を解決するために、請求項1に記載の画像処理装置は、入力画像から様々な種類のノイズを判断する判定手段と、該判断されたノイズ種類、矩形情報、ノイズと判断されなかった矩形情報を管理するノイズ除去結果データ管理手段と、前記判断されたノイズを除去するノイズ除去手段と、前記入力画像を複数の領域に分割し、該分割された領域毎にノイズと判断された画素を計数する画素計数手段と、前記入力画像を修正画像とは別領域に縮小表示するパンウィンドウと、該パンウィンドウ内で各分割された領域ごとに、ノイズの量に応じて、複数の色分け表示を行う表示手段と、前記表示手段に表示されるパンウィンドウ内の分割領域を指定することにより、該領域に対応する修正画像の領域に切り替え、前記ノイズ除去手段により除去されたノイズを修正する修正手段とを備えたことを特徴とする。
また、請求項2は、請求項1記載の画像処理装置において、前記修正手段は、前記画素計数手段が前記入力画像を分割する数をノイズと判断された量に応じて決定することを特徴とする。
また、請求項3は、請求項1記載の画像処理装置において、前記修正手段は、ノイズ除去した画素の多い領域に表示のフォーカスを移動することを特徴とする。
また、請求項4は、請求項1記載の画像処理装置において、前記修正手段は、ノイズ除去した画素の量に応じて、結果の表示の倍率を自動的に切り替えることを特徴とする。
また、請求項5は、請求項1記載の画像処理装置において、前記修正手段は、前記分割した各領域において、ノイズと判断されなかった画素だけあるいはノイズと判断された画素だけを表示することを特徴とする。
また、請求項6に記載の画像処理方法は、判定手段が、入力画像から様々な種類のノイズを判断し、ノイズ除去結果データ管理手段が、該判断されたノイズ種類、矩形情報、ノイズと判断されなかった矩形情報を管理し、ノイズ除去手段が、前記判断されたノイズを除去し、画素計数手段が、前記入力画像を複数の領域に分割して、該分割された領域毎にノイズと判断された画素を計数し、表示手段が、前記入力画像を修正画像とは別領域に縮小表示するパンウィンドウと、該パンウィンドウ内で各分割された領域ごとに、ノイズの量に応じて、複数の色分け表示を行い、修正手段が、前記表示手段に表示されるパンウィンドウ内の分割領域を指定することにより、該領域に対応する修正画像の領域に切り替え、前記ノイズ除去手段により除去されたノイズを修正することを特徴とする。
また、請求項7は、コンピュータに、入力画像から様々な種類のノイズを判断する手順、該判断されたノイズ種類、矩形情報、ノイズと判断されなかった矩形情報を管理する手順、前記判断されたノイズを除去する手順、前記入力画像を複数の領域に分割して、該分割された領域毎にノイズと判断された画素を計数する手順、前記入力画像を修正画像とは別領域に縮小表示するパンウィンドウと、該パンウィンドウ内で各分割された領域ごとに、ノイズの量に応じて、複数の色分け表示を行う手順、前記表示手段に表示されるパンウィンドウ内の分割領域を指定することにより、該領域に対応する修正画像の領域に切り替え、前記ノイズ除去手段により除去されたノイズを修正する手順を、それぞれ実行させるための文書処理プログラムの文書処理プログラムである。
また、請求項8は、請求項7に記載の文書処理プログラムを記録したコンピュータ読み取り可能な記録媒体である。
本発明によれば、ノイズ除去後の修正作業を効率良く行うことが可能となる。
以下、図面を参照して、本発明の実施形態を詳細に説明する。
図1は本発明の画像処理装置のハードウエア構成を示す図である。画像入力機器10は、スキャナーなどから構成され、紙などに印刷された画像を入力する装置である。画像入力機器10で入力された画像は、RAM15でバッファリングされた後、ハードディスクドライブ(HDD)14に保存される。本発明の画像処理を行う主な要素は、中央演算処理装置(CPU)11、ROM12、RAM15、ハードディスクドライブ14、CD−ROMドライブ16を含む構成となっており、ハードディスクドライブ14にインストールされた画像処理プログラムに基づいて画像処理を行い、ディスプレイ13に結果等を表示する。また、入力装置18はキーボードとマウスで構成され、画像処理装置へ指示を与えるもので、タブレットやテンキー等で構成しても、あるいは必要に応じて追加しても良い。なお、ROM12には起動プログラムなどが記憶され、RAM15は画像処理プログラムを実行する際の作業用記憶領域として用いられる。また、画像処理プログラムは、CD−ROMなどの記録媒体に記録され、ユーザーに提供され、CD−ROMドライブ16によって読み取られ、ハードディスクドライブ14にインストールされる。画像処理プログラムは、実行時にはRAM15に展開されて、中央演算処理装置11により実行される。なお、17は前記それぞれのデバイスと制御信号やデータ等を授受するためのバスである。
図2は本発明の画像処理装置の機能構成を示すブロック図である。画像入力機器10から読み込まれた入力画像はノイズ除去部20に渡されて処理される。矩形抽出手段21は、入力画像から連続する黒画素(あるいは所定の色の画素)を一まとめにした外接矩形として抽出する。そして、各矩形について、ノイズ判定/分類手段22がノイズであるか否かの判定を行い、そのときノイズと判定された矩形はノイズの種類によって分類される。ノイズ除去手段23は、ノイズと判定された矩形内の黒画素(あるいは所定の色の画素)を白画素(あるいは背景色と同色の画素)に変換することにより、ノイズとして取り除く。
ノイズが除去された入力画像は、出力画像としてディスプレイ13に表示され、抽出された各矩形の判定結果はノイズ情報として、ノイズの種類と矩形情報とが保存される。ユーザーは修正手段24でディスプレイ13に表示された画像を確認しつつ修正作業を行う。つまり、除去されていないノイズに対しては、ノイズである事を指示し、除去されてしまった画像の一部はノイズでない旨の指示を行う。指示された内容は実行され、画像は修正される。この作業を繰り返して修正作業が終了した時点でノイズ除去の処理が完了する。
図3および図4は画像処理装置がノイズ情報を登録管理するときのデータ形式の例を示したものである。図3は抽出した矩形がノイズと判定された時のノイズ情報の項目を示している。この例では、ノイズに外接する矩形の左上と右下の座標をそれぞれ始点座標と終点座標として、次に矩形内の黒画素の連続する長さをランレングス情報として抽出する。図3では矩形内に2つの黒画素のランがあることを示している。ランレングス情報はランの始点のX座標と終点のX座標(あるいはランの長さ)とY座標で表し、容易にノイズの位置を特定できるようになっている。
図4は、ノイズ情報の格納形式の例を示す図である。ヘッダー40はデータ全体の長さや、各項目の数、あるいは全項目の先頭アドレス等を記憶している領域で、ノイズ情報全体を一まとめにしてファイルに保存したり、あるいはファイルからRAMへ読み出して展開するための情報を保持している。ノイズ41はノイズと判定された矩形の集合を扱うためのポインタの集合であるが、直接矩形情報を指さず、ゴマ塩ノイズ51、周辺ノイズ52、パンチ穴ノイズ53、綴じ部ノイズ54等々の集合の先頭ポインタを含んでいる。一方、ノイズではない情報42は、直接矩形情報を指すポインタの集合である。ノイズ情報は、図3で説明したように、矩形情報71、ランレングス情報72の組でできており、例えばゴマ塩ノイズ51にはすべてのゴマ塩ノイズと判定された矩形情報へのポインタが格納されている。このようにデータを管理することで、特定の種類のノイズのみを扱うことが可能となる。一方、ノイズではない情報42が指す矩形情報も、ノイズとして判定された矩形情報と同一の形式である。
次に、以上のように構成した画像処理装置の動作を図を参照して詳細に説明する。図5は本発明の画像処理装置の動作を示すフローチャートである。画像入力機器10より読み込まれた入力画像から黒画素連結外接矩形を抽出する(ステップS100)。本発明では、文字や図表、写真などと同様に、ノイズも矩形領域として抽出し、それぞれの矩形についてノイズか否かを判断するようにしている。次に各矩形について、ノイズの種類に応じたノイズ判定と分類を行う(ステップS101)。このノイズの判定/分類はノイズの種類とその特徴を利用して行う。例えばゴマ塩ノイズの場合は、ノイズの大きさが小さく、かつ他の矩形との距離が大きいという特徴が利用でき、周辺ノイズやパンチ穴ノイズは紙面の周辺部に存在する矩形の大きさや形を特徴として利用できる。これらのノイズ判定については、前掲の特許文献等の他にも従来技術があるので詳細な説明は省略する。また、判定には誤差が付き物であり、ノイズであるか否かの二者択一を行うためには、矩形情報の所定の特性値と閾値と比較をすることになる。従って、ノイズでないと判定された場合でも、限りなくノイズに近いものもある。このような結果も含めて、判定/分類結果をノイズ情報としてハードディスクドライブ14に登録しておく。登録の形式は図4で説明した通りである。なお、ハードディスクドライブ14に記録する替わりにRAM15に記録しておいても良い。
次に、上述のように判定/分類したノイズ情報に基づいてノイズを除去する(ステップS102)。この時、とりあえずノイズと判定された矩形のみを対象として、矩形内の黒画素(あるいは所定の色の画素)を白画素(あるいは背景色と同色の画素)に置き換える。
続いて、修正作業に入る。この作業は、画像表示(ステップS103)と修正指示(ステップS104)を交互に行うことで、ユーザーは指示対象および指示結果の確認を行いながら修正作業を進めることができる。本発明の画像処理装置はユーザーの指示に応じて、様々に表示の形態を変化させられるので効率の良い修正作業が行える。修正作業では、入力画像を適当な数(m×n)に分割して、その分割領域毎にノイズと判断された画素をカウントし、その情報を修正作業に役立てる。修正作業では、ノイズ除去により情報(文字、点線など)が、誤ってノイズと判断されたものを復活(ノイズではない状態に戻すこと)させたり、ノイズ除去により、本来ノイズなのに、ノイズではない情報(文字、点線など)と判断されたものを解除(ノイズの状態に変更する)することを行う。その修正作業の効率を向上させるために、表示の仕方をいろいろ用意する。
例えば入力画像を分割する数(m×n)をノイズと判断された量に応じて切り替えるようにする。入力画像の幅、高さによって分割数を変えても良いが、画像全体でのノイズの量に応じて切り替えるようにする。つまり、ノイズと判断された量が多ければ分割数を増やす(細かく分割される)ことになる。
また、ノイズ除去した画素の多い領域に表示のフォーカスを自動的に移動させるようにする。入力画像を適当な数で分割し、その分割された領域内で、ノイズと判断された画素を計数し、入力画像を表示させたときに、その一番多い領域を自動的に表示させる。もちろん、ユーザーの指示により次に多い領域へと順番に移ることも可能である。修正時にノイズが密集する領域から確認修正作業をすることができ、これによって修正の作業効率が向上する。
さらに、ノイズ除去した画素の量に応じて、結果の表示の倍率を自動的に切り替えるようにする。入力画像を適当な数で分割し、その分割された領域内で、ノイズと判断された画素を計数し、その量に応じて表示の倍率を変える。ノイズと判断された量に応じて、表示する倍率の切り替えが出来れば、ノイズが多い領域に関しては倍率を上げ、少ない領域は下げるなどの細かい制御が可能になる。これによって、ノイズが多い領域は拡大表示にて細かく確認しながら修正することができ、修正時に注目すべきノイズが判断しやすくなる。このことにより修正の作業効率が向上する。
また、各領域において、ノイズと判断されなかった画素だけを、または、ノイズと判断された画素だけを表示する画面との切り替えを容易にできるようにする。もちろん、画像全体でも切り替えることは可能である。この切り替えは、図4のデータ形式を採用することで容易に実現できる。修正作業時に、修正後(ノイズ除去後)の画像および除去したノイズの確認を各領域で容易に確認することが可能になり、修正の作業効率が向上する。
そして、入力画像を縮小表示するパンウィンドウを別に用意し、そのパンウィンドウ内で、各分割された領域ごとに、ノイズの量に応じて異なる表示をする。異なる表示とは、例えば色分け表示である。ノイズの量があらかじめ設定されている閾値を超えた領域だけを色分け表示する、閾値を複数(例えば、多い、普通、少ない)用意しておき、それに応じて複数段階の色分け表示をすること等が可能になる。もちろん、パンウィンドウ内の領域をマウス等のポインタで指定すれば、修正画面をその領域に瞬時に切り替えることも可能である。パンウィンドウは、画像全体を縮小表示するための小さなウィンドウであるため、スクロールが必要なほど大きなサイズでメインウィンドウに表示されている画像でも、パンウィンドウにはその全体が表示されることになり、全体像を把握しながら修正作業を進めることができ、作業効率が向上する。
本発明の画像処理装置のハードウエア構成を示す図である。 本発明の画像処理装置の機能構成を示すブロック図である。 ノイズ情報の項目を示す図である。 ノイズ情報の格納形式の例を示す図である。 本発明の画像処理装置の動作を示すフローチャートである。
符号の説明
10 画像入力機器
11 中央演算処理装置
12 ROM(Read Only Memory)
13 ディスプレイ
14 ハードディスク(HDD:Hard Disk Drive)
15 RAM(Random Access Memory)
16 CD−ROM・FDドライブ
17 バス
18 入力装置
20 ノイズ除去部
21 矩形抽出手段
22 ノイズ判定/分類手段
23 ノイズ除去手段
24 修正手段

Claims (8)

  1. 入力画像から様々な種類のノイズを判断する判定手段と、
    該判断されたノイズ種類、矩形情報、ノイズと判断されなかった矩形情報を管理するノイズ除去結果データ管理手段と、
    前記判断されたノイズを除去するノイズ除去手段と、
    前記入力画像を複数の領域に分割し、該分割された領域毎にノイズと判断された画素を計数する画素計数手段と、
    前記入力画像を修正画像とは別領域に縮小表示するパンウィンドウと、該パンウィンドウ内で各分割された領域ごとに、ノイズの量に応じて、複数の色分け表示を行う表示手段と、
    前記表示手段に表示されるパンウィンドウ内の分割領域を指定することにより、該領域に対応する修正画像の領域に切り替え、前記ノイズ除去手段により除去されたノイズを修正する修正手段と
    を備えたことを特徴とする画像処理装置。
  2. 前記修正手段は、前記画素計数手段が前記入力画像を分割する数をノイズと判断された量に応じて決定することを特徴とする請求項1記載の画像処理装置。
  3. 前記修正手段は、ノイズ除去した画素の多い領域に表示のフォーカスを移動することを特徴とする請求項1記載の画像処理装置。
  4. 前記修正手段は、ノイズ除去した画素の量に応じて、結果の表示の倍率を自動的に切り替えることを特徴とする請求項1記載の画像処理装置。
  5. 前記修正手段は、前記分割した各領域において、ノイズと判断されなかった画素だけあるいはノイズと判断された画素だけを表示することを特徴とする請求項1記載の画像処理装置。
  6. 判定手段は、入力画像から様々な種類のノイズを判断し、
    ノイズ除去結果データ管理手段は、該判断されたノイズ種類、矩形情報、ノイズと判断されなかった矩形情報を管理し、
    ノイズ除去手段は、前記判断されたノイズを除去し、
    画素計数手段は、前記入力画像を複数の領域に分割して、該分割された領域毎にノイズと判断された画素を計数し、
    表示手段は、前記入力画像を修正画像とは別領域に縮小表示するパンウィンドウと、該パンウィンドウ内で各分割された領域ごとに、ノイズの量に応じて、複数の色分け表示を行い、
    修正手段は、前記表示手段に表示されるパンウィンドウ内の分割領域を指定することにより、該領域に対応する修正画像の領域に切り替え、前記ノイズ除去手段により除去されたノイズを修正する
    ことを特徴とする画像処理方法。
  7. コンピュータに、入力画像から様々な種類のノイズを判断する手順、該判断されたノイズ種類、矩形情報、ノイズと判断されなかった矩形情報を管理する手順、前記判断されたノイズを除去する手順、前記入力画像を複数の領域に分割して、該分割された領域毎にノイズと判断された画素を計数する手順、前記入力画像を修正画像とは別領域に縮小表示するパンウィンドウと、該パンウィンドウ内で各分割された領域ごとに、ノイズの量に応じて、複数の色分け表示を行う手順、前記表示手段に表示されるパンウィンドウ内の分割領域を指定することにより、該領域に対応する修正画像の領域に切り替え、前記ノイズ除去手段により除去されたノイズを修正する手順を、それぞれ実行させるための文書処理プログラム。
  8. 請求項7に記載の文書処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2003422666A 2003-12-19 2003-12-19 画像処理装置、画像処理方法、プログラム及び記録媒体 Expired - Fee Related JP4158696B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003422666A JP4158696B2 (ja) 2003-12-19 2003-12-19 画像処理装置、画像処理方法、プログラム及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003422666A JP4158696B2 (ja) 2003-12-19 2003-12-19 画像処理装置、画像処理方法、プログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JP2005184490A JP2005184490A (ja) 2005-07-07
JP4158696B2 true JP4158696B2 (ja) 2008-10-01

Family

ID=34783465

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003422666A Expired - Fee Related JP4158696B2 (ja) 2003-12-19 2003-12-19 画像処理装置、画像処理方法、プログラム及び記録媒体

Country Status (1)

Country Link
JP (1) JP4158696B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013179395A (ja) * 2012-02-28 2013-09-09 Aiphone Co Ltd インターホン装置
JP5930297B2 (ja) * 2012-05-18 2016-06-08 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP7049292B2 (ja) * 2019-06-18 2022-04-06 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
JP2005184490A (ja) 2005-07-07

Similar Documents

Publication Publication Date Title
US8634659B2 (en) Image processing apparatus, computer readable medium storing program, and image processing method
US20070070473A1 (en) Image display device, image display method, computer program product, and image display system
US7796817B2 (en) Character recognition method, character recognition device, and computer product
JP2005073015A (ja) 画像処理装置及び画像処理方法及びコンピュータプログラム
JP2006301695A (ja) 文書処理装置およびプログラム
JP4730775B2 (ja) 画像処理装置
EP2166741A1 (en) Image processing apparatus, image forming apparatus and program
JP4158696B2 (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2002015280A (ja) 画像認識装置、画像認識方法および画像認識プログラムを記録したコンピュータ読取可能な記録媒体
JP2004287682A (ja) 加筆画像抽出装置、プログラム、記憶媒体及び加筆画像抽出方法
JP4050677B2 (ja) 画像処理装置、画像処理方法及びプログラム並びに記録媒体
JP3993025B2 (ja) 文書画像変換方法、文書画像変換プログラム及び文書画像変換装置
JP2004080341A (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
JP2021157375A (ja) 情報処理装置及びプログラム
JP6206250B2 (ja) 表示制御装置、画像形成装置およびプログラム
JP2001052110A (ja) 文書処理方法、文書処理プログラムを記録した記録媒体及び文書処理装置
JP2006072839A (ja) 画像処理方法、画像処理装置、画像処理プログラム及び記録媒体
JP4079411B2 (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび画像処理プログラムが格納されたコンピュータ読み取り可能な記憶媒体
JP4357226B2 (ja) 帳票定義装置、帳票定義方法及び帳票定義プログラム
JP4682663B2 (ja) ドキュメント処理装置
JP2000082110A (ja) 罫線消去装置および文字画像抽出装置および罫線消去方法および文字画像抽出方法および記録媒体
JP2010020463A (ja) 線画処理装置、線画処理方法およびプログラム
JP7468204B2 (ja) ドキュメント表示装置及びプログラム
JP4810995B2 (ja) 画像処理装置、方法及びプログラム
JP2009272714A (ja) 画像処理装置、画像処理方法、プログラム及びプログラムを記録した記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061002

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20061004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080624

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080707

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110725

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120725

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120725

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130725

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees