JP4682663B2 - ドキュメント処理装置 - Google Patents

ドキュメント処理装置 Download PDF

Info

Publication number
JP4682663B2
JP4682663B2 JP2005092501A JP2005092501A JP4682663B2 JP 4682663 B2 JP4682663 B2 JP 4682663B2 JP 2005092501 A JP2005092501 A JP 2005092501A JP 2005092501 A JP2005092501 A JP 2005092501A JP 4682663 B2 JP4682663 B2 JP 4682663B2
Authority
JP
Japan
Prior art keywords
document
character string
circumscribed rectangle
character
search
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005092501A
Other languages
English (en)
Other versions
JP2006277089A (ja
Inventor
なつみ 宮澤
俊之 山田
浩 信太
真人 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2005092501A priority Critical patent/JP4682663B2/ja
Publication of JP2006277089A publication Critical patent/JP2006277089A/ja
Application granted granted Critical
Publication of JP4682663B2 publication Critical patent/JP4682663B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Character Discrimination (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、文字情報を含むドキュメントを処理するドキュメント処理装置に関する。
文字コードデータを含むドキュメントについて、文書の概要を把握するために、当該電子文書の一部を表示させることは広く行われている。この技術によれば、電子文書の内容を全て表示させることなく、文書の概要を利用者が容易に把握できる。
また、ドキュメントのサムネイルを作成して、当該サムネイルの一覧を表示し、ドキュメントの選択を支援することも広く行われている(例えば特許文献1)。このとき、指定した検索キーワードを含むドキュメントのサムネイルだけを一覧表示することも行われている。
特開2004−356831号公報
しかしながら、上記従来の技術においては、指定した検索キーワードを含むドキュメントについて、そのサムネイルの一覧が表示されるだけであり、実際に検索キーワードがどこに含まれているかは、一旦、各ドキュメントの内容を表示させてから行うこととなり、利便性が低い。
本発明は、上記実情に鑑みてなされたもので、その目的の一つは、利用者の利便性を向上できるドキュメント処理装置を提供することにある。
上記従来例の問題点を解決するための本発明は、ドキュメント処理装置であって、文字情報を含むドキュメントを処理対象として、当該ドキュメントに包含される文字情報から、指定された検索文字列に合致する部分を特定する手段と、検索文字列に合致する部分を特定する情報を、合致部分特定情報として前記ドキュメントに関連づけて保持する手段と、を含み、前記処理対象となったドキュメントの少なくとも一部を一覧表示する際に、各ドキュメントに関連付けて保持されている、合致部分特定情報に基づく所定の表示処理が行われることを特徴としている。
ここで前記処理対象となったドキュメントが、前記文字情報を画像データとして含む場合には、当該画像データのうち、文字情報を含む領域を特定し、当該特定した領域について文字認識処理を実行して文字列データを生成し、当該文字列データを利用して、前記検索文字列に合致する部分を特定する処理を行うこととしてもよい。
さらに、本発明の一態様に係るドキュメント処理方法は、文字情報を含むドキュメントを処理対象として、当該ドキュメントに包含される文字情報から、指定された検索文字列に合致する部分を特定する工程と、検索文字列に合致する部分を特定する情報を、合致部分特定情報として前記ドキュメントに関連づけて保持する工程と、を実行し、前記処理対象となったドキュメントの少なくとも一部を一覧表示する際に、各ドキュメントに関連付けて保持されている、合致部分特定情報に基づく所定の表示処理が行われることを特徴としている。
さらに本発明の別の態様に係るプログラムは、コンピュータに、文字情報を含むドキュメントを処理対象として、当該ドキュメントに包含される文字情報から、指定された検索文字列に合致する部分を特定する手順と、検索文字列に合致する部分を特定する情報を、合致部分特定情報として前記ドキュメントに関連づけて保持する手順と、前記処理対象となったドキュメントの少なくとも一部を一覧表示する際に、各ドキュメントに関連付けて保持されている、合致部分特定情報に基づく所定の表示処理を行う手順と、を実行させることを特徴としている。
本発明の好適な実施の形態について、図面を参照しながら説明する。本発明の実施の形態に係るドキュメント処理装置は、図1に示すように、制御部11と、記憶部12と、画像読取部13と、表示部14と、操作部15とを含んで構成されている。
ここで、制御部11は、例えばCPU等で構成されており、記憶部12に格納されているプログラムに従って動作する。この制御部11は、文字情報を含むドキュメントを処理対象として、当該ドキュメントに包含される文字情報から、指定された検索文字列のそれぞれに合致する部分を特定する検索処理を実行し、各検索文字列ごとに、合致する部分を特定する情報を、合致部分特定情報としてドキュメントに関連づけて保持させる。そして、処理対象となったドキュメントの少なくとも一部を一覧表示する際に、各ドキュメントに関連付けて保持されている、合致部分特定情報に基づく所定の表示処理(一覧表示処理)を実行する。この制御部11の処理の内容については、後に詳しく述べる。
記憶部12は、RAMやROM等のメモリ素子及び/又はディスクデバイスなどを含んで構成されている。この記憶部12には、制御部11によって実行されるプログラムが格納されている。また、記憶部12は、制御部11のワークメモリとしても動作する。
画像読取部13は、例えばスキャナ等であり、媒体に形成されている画像を読み取って得られた画像データを制御部11に出力する。表示部14は、ディスプレイ等であり、制御部11からの指示に従って、情報の表示を行う。操作部15は、キーボードやマウス等であり、利用者の指示操作を受け付けて、当該指示操作の内容を制御部11に出力する。
[ドキュメントの生成]
ここで制御部11の具体的な処理の内容について説明する。本実施の形態では、処理対象となるドキュメントは、例えば画像読取部13にて読み取られて入力される。なお、ドキュメントは複数のページを含んでもよい。
すなわち制御部11は、ページごとの画像データのセットを画像読取部13から受け入れて、各画像データに対して分離処理を実行する。この分離処理では、まず画像データを、輝度のしきい値で二値化した上で、黒画素の連続する部分(画素塊)を特定し、それぞれにラベルを付与する。この処理は、ラベリング処理として広く知られている処理を用いることができる。
そして各特定した画素塊に外接する外接矩形を画定し、当該外接矩形が画像データ上で連続的に配列されている領域を、文字情報を含む領域として特定する。制御部11は、さらに当該特定した領域に対して文字認識処理を実行し、各外接矩形内の文字画像ごとに、認識処理結果としての文字コードデータを生成する。
これらの処理は、レイアウト認識、光学的文字認識(OCR)として広く知られた処理であるので、その詳細な説明を省略する。本実施の形態において特徴的なことの一つは、文字認識処理の結果である文字コードデータごとに、文字画像に対応する外接矩形の座標情報(以下、対応座標情報と呼ぶ)を関連付けて記憶させることである。
制御部11は、また、レイアウト認識の処理によって文字情報を含む領域として特定された領域内の上記外接矩形について、元の画像データ上で、各外接矩形内の画素塊に対応する各画素を、その周辺画素値に基づいて変更する。例えば、元の画像データの各画素をラスタスキャン順に走査する。そして、走査により選択される注目画素が上記画素塊に対応する画素でなければ、当該注目画素の画素値をそのままとするとともに、当該注目画素の画素値を直前画素値として記憶する。
また、走査により選択される注目画素が上記画素塊に対応する画素である場合、当該注目画素の画素値を、記憶している直前画素値に設定する。これにより画素塊に対応する画素の値が、ラスタスキャン順に直前画素値と同一になる。このようにして生成された画像は、絵柄部分を含むものとなるので、以下、絵柄画像と呼ぶ。
さらに制御部11は、元の画像データ上で外接矩形内の画素塊ごとに代表色を決定し、当該代表色と、画素塊の形状(二値化された有意画素のパターン)と、外接矩形の元の画像データ上での座標情報とを関連付けた文字画像を生成し、文字列データと、絵柄画像と、この文字画像とを関連付けて記憶部12に、ドキュメントのデータとして格納する。この記憶部12に格納されたデータは、文字と絵柄とを分離した画像と、文字の部分を認識して得た文字列データとを含むデータである。
なお、ここでは文字画像について、外接矩形ごとに代表色を決定する例について述べたが、これに代えて、例えばMRC(Mixed Raster Content)のように、文字画像を、文字の色を表すフォアグラウンド画像と、フォアグラウンド画像のマスクとなるセレクタとの二層に分離してもよい。この場合、絵柄画像をバックグラウンド画像として、バックグラウンド画像、フォアグラウンド画像、セレクタ、及び文字列データを互いに関連付けた多層フォーマットのドキュメントとして記憶部12に保持させる。
制御部11は、画像読取部13から入力される画像が複数のページに亘る場合は、各ページごとに、絵柄画像、文字画像(MRCの場合、二層となる)、及び文字列データを生成して、互いに関連付けて保持する。
なお、MRCは、ITU−T勧告T.44として規格化されているフォーマットであるので、詳しい説明を省略する。
さらに、本実施の形態の制御部11は、一覧表示のために、元の画像データを縮小処理して、所定のサイズ以下のサムネイル画像を生成する。なお、複数のページがある場合は、最初のページのサムネイル画像のみを生成してもよいし、各ページのサムネイル画像を生成してもよい。生成したサムネイル画像のデータは、ドキュメントに関連付けて記憶部12に格納しておく。
[検索処理]
制御部11は、利用者から検索キーワードが入力されると、当該検索キーワードを指定された検索文字列として、記憶部12に格納されている各ドキュメントの各ページの文字列データから当該指定された検索文字列に合致する部分を検索する。
そして、検索文字列に合致する部分が見いだされると、当該部分を特定する合致部分特定情報を生成し、ドキュメントのデータに関連付けて保持する。合致部分特定情報は、例えばページ上での検索文字列に合致する部分の各外接矩形の座標値のセット(座標情報)とすればよい。例えば制御部11は、図2に示すように、検索文字列(A)と、座標情報(B)とを関連付けたエントリを含む検索結果データを、ページごとに生成し、対応するページの絵柄画像や文字画像等に関連付けて、記憶部12に格納する。また制御部11は、検索結果データをページごとに生成するのではなく、ページと外接矩形の座標値のセットとを関連付けて座標情報を生成し、検索文字列(A)と、ページの情報を含む座標情報(B)とを関連付けたエントリを含む検索結果データを生成して、ドキュメントのデータ全体に関連付けて保持するようにしてもよい。
また、制御部11は、検索文字列に合致する部分が見いだされなかったドキュメントについては、検索結果データを生成しない。
ここでドキュメントのデータと検索結果データとの関連付けは、ドキュメントのデータがMRC等の多層フォーマットとなっている場合、検索結果データを一つの層として含めることによって行うことができる。
[一覧表示処理]
制御部11は、検索結果データに基づいて、各ドキュメントのサムネイル画像を加工し、修正サムネイル画像を生成する。
例えば制御部11は、検索結果データが関連づけられているドキュメントを表示対象ドキュメントとして、表示対象ドキュメントごとに、次の処理を行う。制御部11は、表示対象ドキュメントの一つを注目ドキュメントとして、そのサムネイル画像を読み出す。また、注目ドキュメントのデータに関連づけられている検索結果を読み出して、各エントリの座標情報を読み出す。制御部11は、読み出した座標情報のうち、例えばY座標値(ドキュメントの縦方向の座標値)に対して元のドキュメントに対するサムネイル画像の縮小比rを乗じて、サムネイル上でのY座標値を演算する。そして例えば図3に示すように、サムネイル画像の右端に隣接して、当該座標値によって表される位置に、所定色(例えば黄色)の矩形(P)を描画する。この描画された矩形は、あたかもサムネイル画像に付された付箋のように表示されることとなる。制御部11は、各表示対象ドキュメントについて、上述の処理を繰り返して行い、表示対象ドキュメントの各々についてのサムネイル画像に「付箋」の画像を付加する。
制御部11は、こうして「付箋」を付加したサムネイル画像を例えばマトリクス状に配列して表示する。また、このとき制御部11は、検索結果データに含まれるエントリの数(検索文字列に合致する部分の数、つまり検索のヒット数)をカウントし、カウントの結果に基づいてドキュメントのサムネイル画像の表示順序を並べ替えて表示してもよい。
また制御部11は、検索結果データに、表示するサムネイル画像に対応するページに係る座標情報が含まれる場合は、当該座標情報(各外接矩形に対応する座標情報)に対して元のドキュメントに対するサムネイル画像の縮小比rを乗じて、サムネイル画像上での座標情報を演算し、当該演算結果の位置を強調する所定処理を行ってもよい。ここで強調の処理としては、例えば赤色の枠を描画し、あるいは、所定色の塗りつぶし矩形を半透明合成(合成対象となる画素値のうち輝度の低い側を残しつつ合成するなど)する。
さらに制御部11は、利用者によりマウスポインタの移動操作が行われると、移動後の位置を参照して、いずれかのサムネイル画像上にマウスポインタが位置しているか否かを調べる。そして、いずれかのサムネイル画像上にマウスポインタが位置している場合には、検索結果データに含まれるエントリの少なくとも一部を文字列として表示する。この表示は例えば、各サムネイル画像にオーバレイするウインドウ画像Wを表示し、当該ウインドウ画像上に文字列を描画することで行うことができる(図4(a))。
また、制御部11は、ここで描画する文字列として、各ページごとのエントリの数をカウントした結果としてもよい。例えば図4(b)に示すように、合計数を併せて表示し、「ヒット数合計:3個、2ページ目1個…」などとして表示することしてもよい。
本実施の形態によると、指定した検索文字列を含むドキュメントについて、そのサムネイル画像の表示の際に、どの位置にあるのかを表す画像(付箋や強調表示)などの表示を併せて行うので、利用者の利便性を向上できる。
本発明の実施の形態に係るドキュメント処理装置の一例を表す構成ブロック図である。 検索結果データの例を表す説明図である。 本発明の実施の形態に係るドキュメント処理装置による一覧表示時のドキュメントのサムネイル画像の例を表す説明図である。 本発明の実施の形態に係るドキュメント処理装置による、一覧表示時のドキュメントの表示例を表す図である。
符号の説明
11 制御部、12 記憶部、13 画像読取部、14 表示部、15 操作部。

Claims (2)

  1. スキャナで読み取られたドキュメントを処理対象として、当該ドキュメントに含まれる画素塊を特定し、当該特定した画素塊に外接する外接矩形を画定し、当該外接矩形が連続的に配列されている領域を、文字情報を含む領域として特定する手段と、
    当該特定した領域に対して文字認識処理を実行するとともに、各外接矩形内の文字画像に関連づけて、文字コードデータを記憶する手段と、
    前記文字認識処理により得られた文字列データから、指定された検索文字列に合致する部分を特定する手段と、
    前記検索文字列に合致する部分の数を、カウントする手段と、
    検索文字列に合致する部分の前記各外接矩形の座標情報を、合致部分特定情報として前記ドキュメントに関連づけて保持する手段と、
    前記処理対象となったドキュメントの少なくとも一部のサムネイル画像を一覧表示する際に、前記カウントした検索文字列に合致する部分の数に基づいて、表示順序を並べ替えて表示する手段と、
    を含み、
    前記表示手段は、検索文字列に合致する部分の前記各外接矩形の座標情報のうち、ドキュメントの縦方向の座標値に基づいて定められる座標値を演算し、一覧表示されているドキュメントのサムネイル画像に対し、当該座標値で表される位置に付箋の画像を付加する
    ことを特徴とするドキュメント処理装置。
  2. コンピュータを、
    スキャナで読み取られたドキュメントを処理対象として、当該ドキュメントに含まれる画素塊を特定し、当該特定した画素塊に外接する外接矩形を画定し、当該外接矩形が連続的に配列されている領域を、文字情報を含む領域として特定する手段と、
    当該特定した領域に対して文字認識処理を実行するとともに、各外接矩形内の文字画像に関連づけて、文字コードデータを記憶する手段と、
    前記文字認識処理により得られた文字列データから、指定された検索文字列に合致する部分を特定する手段と、
    前記検索文字列に合致する部分の数を、カウントする手段と、
    検索文字列に合致する部分の前記各外接矩形の座標情報を、合致部分特定情報として前記ドキュメントに関連づけて保持する手段と、
    前記処理対象となったドキュメントの少なくとも一部のサムネイル画像を一覧表示する際に、前記カウントした検索文字列に合致する部分の数に基づいて、表示順序を並べ替えて表示する手段と、
    として機能させ
    前記表示手段として機能させる際には、コンピュータに、検索文字列に合致する部分の前記各外接矩形の座標情報のうち、ドキュメントの縦方向の座標値に基づいて定められる座標値を演算させ、一覧表示されているドキュメントのサムネイル画像に対し、当該座標値で表される位置に付箋の画像を付加させる
    ことを特徴とするプログラム。
JP2005092501A 2005-03-28 2005-03-28 ドキュメント処理装置 Expired - Fee Related JP4682663B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005092501A JP4682663B2 (ja) 2005-03-28 2005-03-28 ドキュメント処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005092501A JP4682663B2 (ja) 2005-03-28 2005-03-28 ドキュメント処理装置

Publications (2)

Publication Number Publication Date
JP2006277089A JP2006277089A (ja) 2006-10-12
JP4682663B2 true JP4682663B2 (ja) 2011-05-11

Family

ID=37211818

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005092501A Expired - Fee Related JP4682663B2 (ja) 2005-03-28 2005-03-28 ドキュメント処理装置

Country Status (1)

Country Link
JP (1) JP4682663B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5125238B2 (ja) * 2007-06-06 2013-01-23 コニカミノルタビジネステクノロジーズ株式会社 文書処理装置、文書処理方法および文書処理プログラム
JP2010211466A (ja) * 2009-03-10 2010-09-24 Canon Inc 画像処理装置および画像処理方法及びプログラム

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03260768A (ja) * 1990-03-09 1991-11-20 Fuji Electric Co Ltd キーワード強調表示装置
JPH07319880A (ja) * 1994-05-20 1995-12-08 Fujitsu Ltd キーワード抽出・検索装置
JPH1125077A (ja) * 1997-06-30 1999-01-29 Canon Inc 文書管理装置及びシステム及び方法
JP2000148739A (ja) * 1998-11-17 2000-05-30 Fujitsu Ltd テキスト編集装置
JP2000339327A (ja) * 1999-05-27 2000-12-08 Ricoh Co Ltd サムネイル画像情報操作システム
JP2001337993A (ja) * 2000-05-30 2001-12-07 Fujitsu Ltd 文字認識結果を利用して情報を検索する検索装置および方法
JP2004086621A (ja) * 2002-08-27 2004-03-18 Casio Comput Co Ltd 電子機器、表示制御方法、プログラム、及び、記録媒体
JP2004252843A (ja) * 2003-02-21 2004-09-09 Canon Inc 画像処理方法
JP2005004724A (ja) * 2003-05-20 2005-01-06 Canon Inc 画像処理装置及びその制御方法、プログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03260768A (ja) * 1990-03-09 1991-11-20 Fuji Electric Co Ltd キーワード強調表示装置
JPH07319880A (ja) * 1994-05-20 1995-12-08 Fujitsu Ltd キーワード抽出・検索装置
JPH1125077A (ja) * 1997-06-30 1999-01-29 Canon Inc 文書管理装置及びシステム及び方法
JP2000148739A (ja) * 1998-11-17 2000-05-30 Fujitsu Ltd テキスト編集装置
JP2000339327A (ja) * 1999-05-27 2000-12-08 Ricoh Co Ltd サムネイル画像情報操作システム
JP2001337993A (ja) * 2000-05-30 2001-12-07 Fujitsu Ltd 文字認識結果を利用して情報を検索する検索装置および方法
JP2004086621A (ja) * 2002-08-27 2004-03-18 Casio Comput Co Ltd 電子機器、表示制御方法、プログラム、及び、記録媒体
JP2004252843A (ja) * 2003-02-21 2004-09-09 Canon Inc 画像処理方法
JP2005004724A (ja) * 2003-05-20 2005-01-06 Canon Inc 画像処理装置及びその制御方法、プログラム

Also Published As

Publication number Publication date
JP2006277089A (ja) 2006-10-12

Similar Documents

Publication Publication Date Title
RU2437152C2 (ru) Устройство обработки изображений, способ и компьютерная программа обработки изображений
US20050160369A1 (en) Method and an apparatus for visual summarization of documents
JP2007004621A (ja) 文書管理支援装置、文書管理支援方法およびプログラム
JP2006301695A (ja) 文書処理装置およびプログラム
JP2002015280A (ja) 画像認識装置、画像認識方法および画像認識プログラムを記録したコンピュータ読取可能な記録媒体
JP4682663B2 (ja) ドキュメント処理装置
JP2008108114A (ja) 文書処理装置および文書処理方法
JP7241506B2 (ja) 光学式文字認識結果の修正支援装置および修正支援用プログラム
JP5142836B2 (ja) 走査画像要素位置合わせ方法
JP4807618B2 (ja) 画像処理装置及び画像処理プログラム
JP4518212B2 (ja) 画像処理装置及びプログラム
EP0759595B1 (en) Document processing system
JP4501731B2 (ja) 画像処理装置
US10853000B2 (en) Image processing apparatus and storage medium
JP4492407B2 (ja) 画像表示装置、画像表示方法及び画像表示プログラム
JP4517822B2 (ja) 画像処理装置及びプログラム
US20020031270A1 (en) Image processing apparatus, image processing method, and computer readable storage medium
US8125691B2 (en) Information processing apparatus and method, computer program and computer-readable recording medium for embedding watermark information
JP2000082110A (ja) 罫線消去装置および文字画像抽出装置および罫線消去方法および文字画像抽出方法および記録媒体
JP4548062B2 (ja) 画像処理装置
JP2002230480A (ja) 文字認識装置および文字認識結果修正方法
JP4261883B2 (ja) 帳票処理装置及び帳票処理方法並びにプログラム
JP4810995B2 (ja) 画像処理装置、方法及びプログラム
JP3424942B2 (ja) 対訳画像形成装置
JP6705327B2 (ja) 画像形成装置、特殊パターンの合成方法及び合成プログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071112

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071115

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140218

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees