JP4512633B2 - 画像処理装置及びその制御方法、並びにプログラム - Google Patents

画像処理装置及びその制御方法、並びにプログラム Download PDF

Info

Publication number
JP4512633B2
JP4512633B2 JP2007331884A JP2007331884A JP4512633B2 JP 4512633 B2 JP4512633 B2 JP 4512633B2 JP 2007331884 A JP2007331884 A JP 2007331884A JP 2007331884 A JP2007331884 A JP 2007331884A JP 4512633 B2 JP4512633 B2 JP 4512633B2
Authority
JP
Japan
Prior art keywords
image
code image
code
error detection
detection rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007331884A
Other languages
English (en)
Other versions
JP2009055582A (ja
Inventor
悠史 佐藤
保広 小塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007331884A priority Critical patent/JP4512633B2/ja
Priority to US12/181,049 priority patent/US8542867B2/en
Publication of JP2009055582A publication Critical patent/JP2009055582A/ja
Application granted granted Critical
Publication of JP4512633B2 publication Critical patent/JP4512633B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、画像処理装置及びその制御方法、並びにプログラムに関し、より詳細には、誤り訂正符号により情報源を誤り符号化する画像処理装置及びその制御方法、並びにその方法のプログラムに関する。
MFP(マルチファンクションプリンタ)を用いて符号画像(電子透かし画像や二次元バーコード画像やバーコード画像やステガノグラフィー等)を原稿画像に合成して印刷する機会が増えつつある。
これらの符号画像から後に確実に元情報が抽出されるように、MFPは、元情報に誤り訂正符号を付加して付加後情報を得て、その付加後情報を画像化することで符号画像を作成している。なお、本明細書では、誤り訂正符号を付加することを誤り訂正符号化と称する。また、「誤り訂正符号を付加して付加後情報を得て、その付加後情報を画像化する」ことを符号画像化と称することにする。
このように、元情報に誤り訂正符号が付加されていることにより、印刷物内の符号画像が破損し(例えば、汚れ)たりしても、印刷物内の破損した符号画像から元情報を抽出することが可能になっている。
ここで、二次元コードで用いられる誤り訂正符号の一例として、リード・ソロモン符号を説明する。
リード・ソロモン符号では、誤り訂正率は、(1/2)×(元情報の情報量)÷(元情報の情報量+誤り訂正符号量)で求まる。そのため、リード・ソロモン符号では、例えば元情報の情報量と誤り訂正符号の量(誤り訂正符号量)とが同量の時、誤り訂正率は25%とされている。
ところで、誤り訂正率が25%であることは、二次元コードの25%が破損しても正確に元情報を抽出することが可能であることを意味する。ただし、このように誤り訂正率が25%の二次元コードは、誤り訂正率が0%の二次元コード(元情報に誤り訂正符号量を付加せずに符号化されてできた画像)と比較すると、サイズが2倍になる。
つまり、誤り訂正率が上がるほど、二次元コードが破損しても正確に元情報が得られるという良い側面がある一方で、二次元コードのサイズは大きくなるという悪い側面があることになる。そこで、通常は両者のバランスを考慮して、誤り訂正符合量の割合は決められている。
また、特許文献1では、二次元バーコードを生成する方法が開示されている。
特開平7−254037
従来、二次元バーコード誤り検出率の高い符号画像において、複写によって誤り訂正率以上に二次元コードが破損してしまう問題がある。誤り訂正率以上に二次元コードが破損してしまうと誤り訂正が不可能な状態になり、符号画像の元情報を抽出することができなくなってしまう。例えば、孫コピーのように何度も複写を繰り返すとこの問題が起きることになる。
なお、このように符号画像から元情報を抽出できなくなってしまうことを、本明細書では、抽出エラーが起こると称する。「誤り検出率」とは、符号画像が破損していた面積の割合を示す。そして、この面積の割合は、元情報の情報量のうち、誤り訂正符号による誤り訂正を必要とした情報量の割合を意味する。
本発明は、このような問題を鑑みてなされたものである。本発明の目的は、二次元バーコードが破損し、誤り検出率が低下した場合であっても、ユーザの利便性を低下させない画像処理装置及びその制御方法、並びにその方法のプログラムを提供することにある。
上記目的を達成するために案出された本発明の一態様は、ネットワークに接続された画像処理装置であって、該ネットワークに接続された別の装置であって誤り訂正符号化された元情報を画像化することにより作成された符号画像をシート上に形成する装置と該ネットワークを介してデータをやり取りする画像処理装置において、前記符号画像が形成されたシートを読み取ることで得られた、読取画像内の符号画像から前記元情報を抽出する抽出手段、前記抽出手段により前記元情報を抽出した際の誤り検出率が所定値以上であるか判断する判断手段、並びに、前記判断手段により前記誤り検出率が所定値以上であると判断された場合、前記抽出手段により抽出された前記元情報から符号画像を再生して、該符号画像を前記読取画像内の符号画像に置換える置換手段であって、前記判断手段により前記誤り検出率が所定値以上であると判断された場合、前記読取画像から前記符号画像を除去する除去手段、前記抽出手段により抽出された前記元情報を符号画像化する符号画像化手段、及び、前記符号画像化手段によって得られた新たな符号画像を、前記除去手段により符号画像が除去された領域に合成する合成手段を有する置換手段を有することを特徴とする。
ここで、前記判断手段により前記誤り検出率が所定値以上であると判断された場合、前記置換手段により符号画像が置換えられた読取画像を出力し、前記判断手段により前記誤り検出率が所定値未満であると判断された場合、前記置換手段により符号画像で置換されていない前記読取画像を出力する制御手段をさらに有することができる。
上記目的を達成するために案出された本発明の別の態様は、ネットワークに接続される画像処理装置の制御方法であって、該ネットワークに接続された別の装置であって誤り訂正符号化された元情報を画像化することにより作成された符号画像をシート上に形成する装置と該ネットワークを介してデータをやり取りする画像処理装置の制御方法において、前記符号画像が形成されたシートを読み取ることで得られた、読取画像内の符号画像から前記元情報を抽出する抽出ステップ、前記抽出ステップで前記元情報を抽出した際の誤り検出率が所定値以上であるか判断する判断ステップ、並びに、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記抽出ステップで抽出された前記元情報から符号画像を再生して、該符号画像を前記読取画像内の符号画像に置換える置換ステップであって、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記読取画像から前記符号画像を除去する除去ステップ、前記抽出ステップで抽出された前記元情報を符号画像化する符号画像化ステップ、および、前記符号画像化ステップによって得られた新たな符号画像を、前記除去ステップで符号画像が除去された領域に合成する合成ステップを有する置換ステップを有することを特徴とする。さらに別の態様は、ネットワークに接続された画像処理装置が備える処理装置であって、該ネットワークに接続された別の装置であって誤り訂正符号化された元情報を画像化することにより作成された符号画像をシート上に形成する装置と該ネットワークを介してデータをやり取りする画像処理装置が備える処理装置に、前記符号画像が形成されたシートを読み取ることで得られた、読取画像内の符号画像から前記元情報を抽出する抽出ステップ、前記抽出ステップで前記元情報を抽出した際の誤り検出率が所定値以上であるか判断する判断ステップ、並びに、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記抽出ステップで抽出された前記元情報から符号画像を再生して、該符号画像を前記読取画像内の符号画像に置換える置換ステップであって、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記読取画像から前記符号画像を除去する除去ステップ、前記抽出ステップで抽出された前記元情報を符号画像化する符号画像化ステップ、および、前記符号画像化ステップによって得られた新たな符号画像を、前記除去ステップで符号画像が除去された領域に合成する合成ステップを有する置換ステップを実行させることを特徴とする。
ここで、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記置換ステップで符号画像が置換えられた読取画像を出力し、前記判断ステップで前記誤り検出率が所定値未満であると判断された場合、前記置換ステップで符号画像の置換されていない前記読取画像を出力する制御ステップをさらに有することができる
上記各態様の本発明によれば、二次元バーコードが破損し、誤り検出率が低下した場合であっても、ユーザの利便性を低下させないですむ利点がある。
以下、図面を参照して本発明の実施形態を詳細に説明する。
各実施形態の説明にあたって本実施形態で使用する用語の説明を行なう。
元情報に誤り訂正符号を付加することを、元情報を誤り訂正符号化すると称する。
また、元情報に誤り訂正符号が付加されると、付加後情報が得られることになる。そして、この付加後情報を画像化することで、バーコード(二次元バーコードを含む)や電子透かしやステガノグラフィーといった符号画像が得られるものとする。
この誤り訂正符号化と画像化とを合わせて、符号画像化と称する。即ち、元情報が符号画像化されると、誤り訂正符号を含む符号画像が得られることになる。
また、符号画像を0、1の情報に変換することを情報化と称する。通常は(符号画像が破損していない場合には)、符号画像の情報化により得られる情報は、上記付加後情報と一致することになる。
さらに、上記情報化により得られた情報から元情報を得ることを、上記情報化により得られた情報から元情報を取出すと表現することにする。
即ち、符号画像から元情報を得るには、情報化と取出しとが行なわれることになるが、これらを合わせて抽出と表現することにする。
(第1の実施形態)
本実施形態に係るネットワークシステム全体の構成図を図1に示す。本実施形態に係るMFP1001はスキャナとプリンタとを備えている。MFP1001は、スキャナを用いて読み取った画像をLAN1010に流したり、LAN1010から受信した画像をプリンタを用いてプリントアウト(シート上への画像形成)することができる。すなわち、MFP1001は、画像読み取り手段として機能することができ、かつ画像形成装置として機能することができる。
また、MFP1001は、スキャナを用いて読み取った画像をFAX送信手段によりPSTNまたはISDN1030に送信したり、PSTNまたはISDN1030から受信した画像をプリンタによりプリントアウトすることもできる。
データベースサーバ1002は、MFP1001により読み込んだ2値画像及び多値画像をデータベースとして管理する。1003は、データベースサーバ1002のデータベースクライアントであり、データベース1002に保存されている画像を閲覧/検索等できる。電子メールサーバ1004は、MFP1001により読み取った画像を電子メールの添付として受け取ることができる。1005は、電子メールサーバ1004のクライアントであり、電子メールサーバ1004で受け取ったメールを受信し閲覧することや、電子メールを送信することが可能である。
WWWサーバ1006はHTML文書をLAN1010に提供し、MFP1001によりWWWサーバ1006で提供されるHTML文書をプリントアウトできる。1007は、DNSサーバ1007である。ルータ1011は、LAN1010をインターネット/イントラネット1012と連結する。インターネット/イントラネット1012に、前述したデータベースサーバ1002、WWWサーバ1006、電子メールサーバ1004、MFP1001と同様の装置が、それぞれ1021、1022、1023、1020として連結している。一方、MFP1001は、PSTNまたはISDN1030を介して、FAX装置1031と送受信可能になっている。また、LAN1010上にプリンタ1040も連結されており、MFP1001により読み取った画像をプリントアウト可能なように構成されている。
図2は、本実施形態に係るマルチファンクションシステム(MFP1001や1020)の構成を説明するブロック図である。
本実施形態に係るマルチファンクションシステムは、コントローラユニット2000、操作部2006、スキャナ2015、プリンタ2017を備えている。なお、操作部2006は、所定の指令あるいはデータなどを入力するキーボードあるいは各種スイッチなどを含む入力操作部と、MFPの入力・設定状態などをはじめとする種々の表示を行う表示部とを有している。
コントローラユニット2000は、画像入力デバイスであるカラースキャナ2015や画像出力デバイスであるカラープリンタ2017と接続している。一方では、コントローラユニット2000は、LAN2050や公衆回線(WAN)2051と接続することで、画像情報やデバイス情報の入出力を行う。スキャナ2015は、2種類の光源を用いて原稿を読み取ることが可能な構成になっており、それぞれの光源は、波長、あるいは照度が異なっている。ここでは、それぞれの光源を第1の光源、第2の光源と称する。
CPU2001はシステム全体を制御するコントローラであり、種々の演算、制御、判別などの処理動作を実行する。RAM2002はCPU2001が動作するためのシステムワークメモリであり、画像データを一時記憶するための画像メモリでもある。ROM2003はブートROMであり、システムのブートプログラムが格納されている。HDD2004はハードディスクドライブで、システムソフトウェア、画像データを格納する。
操作部I/F2005は操作部(UI)2006とのインタフェース部であり、操作部2006に表示する画像データを操作部2006に対して出力する。また、操作部2006から本システム使用者が入力した情報を、CPU2001に伝える役割をする。Network2007はLAN2050に接続し、情報の入出力を行う。Modem2053は公衆回線2051に接続し、画像情報の入出力を行う。
2値画像回転2052、および2値画像圧縮・伸張2054はModem2053で2値画像を送信する前に画像の方向を変換したり、所定の解像度、あるいは通信の相手能力に合わせた解像度に変換したりするためのものである。圧縮、伸張は、JBIG、MMR、MR、MHをサポートしている。DMAC2009はDMAコントローラであり、RAM2002に格納されている画像を、CPU2001を介することなく読み取りImageBusI/F2011に対して画像転送する。また、DMCA2009は、画像バス2010からの画像を、CPU2001を介することなくRAM2002に書き込むこともできる。
以上のデバイスがシステムバス2008に接続される。ImageBusI/F2011は画像バス2010を介して高速な画像の入出力を制御するためのインタフェースである。
圧縮器2012は画像バス2010に画像を送出する前に32画素×32画素の単位でJPEG圧縮するための圧縮器である。伸張器2013は画像バス2010を介して送られた画像を伸張するための伸張器である。
ラスターイメージプロセッサ(RIP)2018はホストコンピュータからのPDLコードを、Network2007を介して受け取り、システムバス2008を通して、CPU2001がRAM2002に格納する。CPU2001はPDLを中間コードに変換して再度システムバス2008を介してRIP2018に入力し、ビットマップイメージ(多値)に展開する。スキャナ画像処理2014はスキャナ2015からのカラー画像、白黒画像に対して、適切な各種画像処理(例えば補正、加工、編集)を行い出力する(多値)。同様にプリンタ画像処理2016はプリンタ2017に対して適切な各種画像処理(例えば補正、加工、編集)を行うプリント時は伸張2013で2値多値変換を行うので、2値、および多値出力が可能である。
画像変換部2030はRAM2002上にある画像を画像変換し、再度、RAM2002に描き戻すときに使われる各種画像変換機能を有する。回転器2019は32画素×32画素単位の画像を指定された角度で回転でき、2値、および多値の入出力に対応している。変倍器2020は画像の解像度を変換(例えば600dpiから200dpi)したり、変倍したりする機能(例えば25%から400%まで)を有する。変倍する前には32画素×32画素の画像を32ライン単位の画像に並び替える。
色空間変換2021は多値入力された画像をマトリクス演算、およびLUTにより、例えばメモリ上にあるYUV画像をLab画像に変換し、メモリ上に格納する。また、この色空間変換は3×8のマトリクス演算および、1次元LUTを持ち、公知の下地とばしや裏写り防止を行うことができる。変換された画像は多値で出力される。2値多値変換2022は1bit、2値画像を多値8bit、256階調にする。逆に多値2値変換2026は例えばメモリ上にある8bit、256階調の画像を誤差拡散処理などの手法により1bit、2階調に変換し、メモリ上に格納する。
合成2023はメモリ上の2枚の多値画像画像(もしくは二値画像)を合成し、1枚の多値画像(もしくは二値画像)にする機能を有する。例えば、メモリ上にある会社ロゴの画像と原稿画像を合成することで、原稿画像に簡単に会社ロゴをつけることができる。合成の手法は、画素毎に平均する、輝度レベルで明るい方の画素の値を合成後の画素の値とする、暗い方を合成後の画素とする等の公知の手法を用いることができる。また、上記合成の手法は、ビット毎に論理和演算、論理積演算、排他的論理和演算を施すなどの公知の手法も用いることができる。間引き2024は多値画像の画素を間引くことで、解像度変換を行うユニットであり1/2・1/4・1/8の多値画像を出力可能である。変倍2020と合わせて使うことで、より広範囲な拡大、縮小を行うことができる。
符号付加・判別部2025は、受取った画像に対して、所望の符号画像を合成する。符号付加・判別部2025は、受取った画像内の符号画像から元情報を抽出することができる。具体的には、受取った画像内の符号画像を0、1の情報になるように情報化して、その0,1の情報から元情報を回復することになる。
次に、本実施形態を図3に示すフローチャートを用いて説明する。
ここでは、MFP1001が、元情報に誤り訂正符号情報を付加して付加後情報を得て、当該得られた付加後情報を画像化することで符号画像を作成している。即ち、元情報を符号画像化して符号画像を作成している。さらに、このMFP1001は、作成した符号画像を読取画像に合成して合成画像を生成し、当該生成された合成画像をシート上に形成する。
なお、本実施形態では、元情報には、符号画像を印刷する画像形成装置(MFPやプリンタ)のID、ユーザID、出力日時、セキュリティレベル、改ざん防止用情報等が含まれている場合があるものとする。このような情報を含む場合、本実施形態では、元情報を特殊元情報と称することにする。
MFP1001が符号画像を読取画像と合成した上で印刷する際の処理の流れを説明する。
MFP1001は、特殊元情報と読取画像とをMFP1001に接続されたホストコンピュータから受取る。
次に、MFP1001は、MFP1001内のHDD内に保存されている誤り訂正率を読み出す。この読み出した誤り訂正率に基づいて、特殊元情報に誤り訂正符号を付加して付加後情報を得る。この付加後情報を画像化して符号画像を生成する。
MFP1001は、上記ホストコンピュータから受け取った原稿画像と、上記生成された符号画像とを合成して合成画像を得る。
MFP1001は、上記合成画像をシート上に印刷出力する。
続いて、図3を用いて、MFP1100が印刷物をスキャンした際の処理を説明する。
なお、印刷物をスキャンするに先立って、MFP1100が有する操作部2006により、ユーザが符号画像読み込みモードを選択しているものとする。上記符号画像読み込みモードは、符号画像の印刷された印刷物をMFP等の画像読み取り手段にユーザが読み込ませたいと考える場合に用いられることになる。
ステップS301では、MFP1100は、スキャナの原稿台に読み込むべき印刷物があるか否かを判断する。この判断は、スキャナの原稿台に設けられたセンサによって検知された検知信号に基づいて行えば良い。印刷物があると判断する場合は、MFP1100は、原稿台の印刷物をスキャンして(光学的に読み取って)読取画像を生成した上で、ステップS302に進む。一方、印刷物がないと判断する場合は、MFP1100は、ステップS303に進み、エラーメッセージを表示画面に表示する。
ステップS302では、MFP1100は、読取画像内に符号画像が存在するか否かを判断する。符号画像があると判断する場合には、ステップS304に進む。一方、符号画像がないと判断する場合は、やはりステップS303に進み、エラーメッセージを表示画面に表示する。
ステップS304では、MFP1100は、符号画像を情報化することによって、情報を得る。
ステップS305では、MFP1100は、ステップS304で得られた情報に含まれている誤り訂正符号を用いて、ステップS304で得られた情報から元情報を取出せるかどうか判断する。また、この際に、元情報の誤り検出率を計算しておく。
なお、本実施形態において、「誤り検出率」とは、符号画像が破損していた面積の割合を示す。そして、この面積の割合は、元情報の情報量のうち、誤り訂正符号による誤り訂正を必要とした情報量の割合を意味する。
そのため、例えば、誤り検出率が4%の場合には、符号画像が破損していた面積の割合は4%である。
なお、誤り訂正率7%の符号画像から元情報を抽出する際に、もし、誤り検出率が4%であれば、何とか、符号画像から元情報を抽出できることになる。ただし、誤り訂正率7%の符号画像から元情報を抽出する際に、もし、誤り検出率が7%を超えてしまうと、正確な元情報が符号画像から抽出できず、読み取りエラーが発生することになる。なお、本実施形態に記載する各画像形成装置では、誤り訂正率7%で、符号画像を作成しているものとする。
ステップS305で、元情報を取り出せると判断した場合には、MFP1100は、ステップS306に進み、ステップS304で得られた情報から元情報を取出した上でステップS308に進む。一方、ステップS305で、元情報を取り出せないと判断した場合には、ステップS307に進み、読み取りエラーを表示画面に表示するとともに、管理者通知を行う。管理者通知を行うとは、本実施形態では、上記誤り検出率を受け取った画像形成装置を管理する管理者の使用アドレスとして登録されているメールアドレスに、危険状態を示すメールを送信することを意味するものとする。
ステップS308では、MFP1100は、S306で得られた元情報が特殊元情報であるか否かを判定する。即ち、抽出された元情報に、符号画像を印刷する画像形成装置(MFPやプリンタ)のID、ユーザID、出力日時(印刷日時)、セキュリティレベル、改ざん防止用情報等が含まれているか否かを判定する。判定の結果、含まれていない場合には、ステップS309に進み、その元情報に基づいた制御を行う。一方、含まれている場合には、ステップS310に進む。
ステップS310では、MFP1100は、ステップS305で計算された誤り検出率が所定値未満か、所定値以上であるかを判断し、所定値よりも小さい場合はステップS312に進む。
一方、誤り検出率が所定値以上である場合には、ステップS311に進む。この所定値は、本実施形態では、5%であるものとする。
ここで、図4を用いて、上記所定値の決定方法を説明する。
図4は、符号画像を含む印刷物の複写回数と、その印刷物をスキャンしたMFPが計算した誤り検出率との関係を示す図である。図4において、横軸は、符号画像を含む印刷物を世代コピーを行なった回数である。縦軸は、その印刷物をスキャンしたMFPが計算した誤り検出率を示している。
なお、誤り検出率は、コピーの世代数といつも同じ関係を持つわけではなく、印刷物上における符号画像の汚れ等、他の要因にも依存するものである。しかしながら、図4は、世代コピー以外の要因がないものとして、印刷物を複写し、その印刷物をスキャンしたMFPが計算した誤り検出率との関係を示している。
このように、ステップS310で所定値未満である場合にステップS312に進むのは、符号画像の破損度合いが非常に軽微であり、符号画像の補正等を何ら行なう必要がないからである。また、このように符号画像の補正等を行なう必要がない時にS311の処理を行うと無駄な処理時間がかかってしまうため、本実施形態では、ステップ312に進むのである。また、S311の処理を行うと二つの符号画像がシート上に存在することになる。すると、後の情報抽出時に、符号画像の選別を行う必要が生じ、情報抽出に余分な時間がかかってしまう。このことを防ぐため、本実施形態では、上記のように符号画像の補正等を行う必要がない時には、ステップS312に進むのである。
また、ステップS310で所定値以上である場合にステップS311に進むのは、符号画像の破損度合いが高く、従って、印刷後の符号画像が再び読み込まれる際に元情報が取り出せなくなることがあるためである。
ステップS311では、MFP1100はS306で得られた元情報と、符号画像の再生処理指示とを画像形成装置(MFP1001)に送信する。
ステップS312では、MFP1100は、特殊元情報内の画像形成装置のIDに示される画像形成装置(MFP1001)に対して読取画像を送信する。
続いて、図5を用いて、MFP1001が、MFP1100から読取画像と、元情報と、符号画像再生指示とを受取った場合に行なう処理を説明する。
ステップS501では、MFP1001は、MFP1100から読取画像と元情報と符号画像再生指示を受取る。
ステップS502ではステップS311による符号画像再生指示が送られているか判断する。符号画像再生指示が送られていない場合はステップS503に進む。S503では後述するような符号画像の置換えなどを行わずに、本処理を終了する。
一方、符号画像再生指示が送られている場合はステップS504に進む。
このように、ステップS502において符号画像再生指示が送られていない場合、符号画像の破損度合いが非常に軽微である。このため、ステップS503に以降し、符号画像を置換せずに読取画像を出力する。
また、ステップS502において符号画像再生指示が送られている場合、符号画像の破損度合いが高いため、符号画像を再生する処理を行なう。
ステップS504では読取画像から符号画像除去可能部を判定する。
なお、本実施形態では、符号判定除去可能部について図6を用いて説明する。符号画像除去前の読取画像のうちの全ての領域に、符号画像が合成されているものとする。そして、符号画像の一部は、原稿画像のうちの文字や写真あるいはグラフィックといったコンテンツと重なっているものとする。
この原稿画像が重なっている部分は符号画像の除去が不可能である。一方、原稿画像の重なっていない部分は除去可能であるため、この部分を除去可能部とする。なお、本実施形態では、除去可能部から後述のように符号画像が除去されるため、除去可能部は、符号画像を除去するための領域と一対一で対応する。
ステップS505では読取画像の全領域に除去可能部分が全く存在しない場合、又は、存在しても少ない場合にSステップS506に進む。一方、読取画像に除去可能領域があればS507に進む。なお、除去可能部分(除去可能部)が存在しても少ないというのは、除去可能部分にのみ符号画像をステップ509で合成したならば、その符号画像から元情報を抽出できない程度に、除去可能部分が少ないことを意味するものとする。
ステップS506では出力停止し、警告メッセージを表示し、ユーザに警告を行なう。この理由は、ステップS502の符号再生指示があることで符号画像の破損度合いが高い状態にあるにもかかわらず、符号画像を除去不可能であり、符号画像の再生が不可能であるため、符号画像が破損してしまうことを防ぐためである。そのため、出力を停止することで、破損した符号画像を持つ読取画像を出力させないのである。
ステップS507では、MFP1001は、ステップS504により判定された除去可能部の符号画像を除去し(符号画像除去を行い)、ステップS508に進む。
これにより、コンテンツの重なりがない部分が除去される。この様子を図6に示す。
ステップS508では元情報から符号画像の再生を行ない(新たな符号画像を作成し)、ステップS509に進む。なお、この再生は、元情報に誤り訂正符号を付加して付加後情報を得た上で、この付加後情報を画像化して符号画像を生成することで行われる。即ち、元情報に符号画像化が行われる。なお、本実施形態において、上記画像化は、除去可能部の形、サイズに合わせて、行われる。
ステップS509では、ステップS504で判定され、読取画像中のステップS507において符号画像が除去された除去可能部に、ステップS508で再生された新たな符号画像を合成し、ステップS510に進む。この様子を図7に示す。
即ち、ステップ507で符号画像が除去され、さらに、ステップ509で新たな符号画像が合成されることにより、再生された符号画像が元の符号画像に置換えられることになる。
ステップS510ではステップS509で合成された合成画像(つまり、符号画像が置換えられた読取画像)を出力し、処理を終了する。
以上のように、本実施形態では、画像読み取り手段としてのスキャナ2015にて読み取られた印刷画像内の符号画像から元情報を抽出する際に得られる誤り検出率に応じて、二次元バーコードを除去、再生し、誤り検出率が向上されることになる。
なお、本実施形態では、ユーザにより操作部2006を介して、符号画像を読み込む指令を入力され、二次元バーコード読み込みモードにてMFP1100が動作することになるが、これに限定されない。例えば、二次元バーコード読み込みモードを設けなくても良い。即ち、通常のスキャンモードやコピーモードの際に、図3、図5を用いて説明した処理を行っても良い。
すなわち、本実施形態で重要なことは、画像処理装置にて、誤り検出率が閾値よりも大きいか否かを判断し、大きい場合は、画像形成装置において、符号画像除去可能部を除去し、符号画像の再生を行うことである。
誤り検出率が読み取り限界に達する(誤り検出率が読み取り限界に達すると、符号画像から元情報が抽出できなくなる)前に、符号画像を再生させることによって、元画像の抽出不能を防ぐ。よって、上記画像形成を行う装置は、画像処理装置と電気的に接続されていても良いし、画像処理装置と一体化していても良い。つまり、MFP1001とMFP1100が異なる装置であるものとして本実施形態を説明したが、たまたま符号画像を含む印刷物を作成した装置と、その印刷物をスキャンした装置とが一致することもあり得る。即ち、MFP1001とMFP1100とが同じ装置であることもあり得る。このような場合、画像形成を行う装置が画像処理装置と一体化されていることになるが、上記画像形成を行う装置と画像処理装置とが電気的に接続されていることは言うまでも無い。
(第2の実施形態)
図8を用いて、MFP1100が、印刷物をスキャンした際の第2の実施形態に係る処理を説明する。
なお、印刷物をスキャンするに先立って、MFP1100が有する操作部2006により、ユーザが符号画像読み込みモードを選択しているものとする。
ステップS801では、MFP1100は、スキャナの原稿台に読み込むべき印刷物があるか否かを判断する。この判断は、スキャナの原稿台に設けられたセンサによって検知された検知信号に基づいて行えば良い。印刷物があると判断する場合は、MFP1100は、原稿台の印刷物をスキャンして(光学的に読み取って)読取画像を生成した上で、ステップS802に進む。一方、印刷物がないと判断する場合は、MFP1100は、ステップS803に進み、エラーメッセージを表示画面に表示する。
ステップS802では、MFP1100は、読取画像内に符号画像が存在するか否かを判断する。符号画像があると判断する場合には、ステップS804に進む。一方、符号画像がないと判断する場合は、MFP1100は、ステップS812に進む。
ステップS804では、MFP1100は、符号画像を情報化することによって、情報を得る。
ステップS805では、MFP1100は、ステップS804で得られた情報に含まれている誤り訂正符号を用いて、ステップS804で得られた情報から元情報を取出せるかどうか判断する。また、この際に、元情報の誤り検出率を計算しておく。
なお、本実施形態に記載する各画像形成装置では、誤り訂正率7%で、符号画像を作成しているものとする。
ステップS805で、元情報を取り出せると判断した場合には、MFP1100は、ステップS806に進み、ステップS804で得られた情報から元情報を取出した上でステップS808に進む。一方、ステップS805で、元情報を取り出せないと判断した場合には、ステップS807に進み、読み取りエラーを表示画面に表示するとともに、管理者通知を行う。管理者通知を行うとは、本実施形態では、上記誤り検出率を受け取った画像形成装置を管理する管理者の使用アドレスとして登録されているメールアドレスに、危険状態を示すメールを送信することを意味するものとする。
ステップS808では、MFP1100は、S806で得られた元情報が特殊元情報であるか否かを判定する。即ち、抽出された元情報に、符号画像を印刷する画像形成装置(MFPやプリンタ)のID、ユーザID、出力日時(印刷日時)、セキュリティレベル、改ざん防止用情報等が含まれているか否かを判定する。判定の結果、含まれていない場合には、ステップS809に進み、その元情報に基づいた制御を行う。一方、含まれている場合には、ステップS810に進む。
ステップS810では、MFP1100は、ステップS805で計算された誤り検出率が所定値未満か、所定値以上であるかを判断し、所定値よりも小さい場合はステップS812に進む。
一方、誤り検出率が所定値以上である場合には、ステップS811に進む。この所定値は、本実施形態では、5%であるものとする。上記所定値の決定方法は第1の実施形態の場合と同様であって良い。
このように、ステップS810で所定値未満である場合にステップS812に進むのは、符号画像の破損度合いが非常に軽微であり、符号画像の補正等を何ら行なう必要がないからである。また、このように符号画像の補正等を行なう必要がない時にS811の処理を行うと無駄な処理時間がかかってしまうため、本実施形態では、ステップ312に進むのである。また、S811の処理を行うと二つの符号画像がシート上に存在することになる。すると、後の情報抽出時に、符号画像の選別を行う必要が生じ、情報抽出に余分な時間がかかってしまう。このことを防ぐため、本実施形態では、上記のように符号画像の補正等を行う必要がない時には、ステップS812に進むものとする。
また、ステップS810で所定値以上である場合にステップS811に進むのは、符号画像の破損度合いが高く、従って、印刷後の符号画像が再び読み込まれる際に元情報が取り出せなくなることがあるためである。
ステップS811では、MFP1100はS806で得られた元情報と、符号画像の再生処理指示とを画像形成装置(MFP1001)に送信する。
ステップS812では、MFP1100は、特殊元情報内の画像形成装置のIDに示される画像形成装置(MFP1001)に対して読取画像を送信する。
続いて、図9を用いて、MFP1001が、MFP1100から読取画像と、元情報と、符号画像再生指示とを受取った場合に行なう処理を説明する。ここでMFP1001とMFP1100は同一の筐体に収容されても良く、別個の筐体に収容されLANを介して接続された形態であってもよいものとする。
ステップS901では、MFP1001は、MFP1100から読取画像と元情報と符号画像再生指示を受取る。
ステップS902ではステップS811による符号画像再生指示が送られているか判断する。符号画像再生指示が送られていない場合はステップS903に進む。S903では、後述するような符号画像の補正処理などを行わずに、原稿情報をそのまま出力する。
一方、符号画像再生指示が送られている場合はステップS904に進む。
このように、ステップS902において符号画像再生指示が送られていない場合、符号画像の破損度合いが非常に軽微である。このため、ステップS903に移行し、符号画像を置換せずに読取画像を出力する。
また、ステップS902において符号画像再生指示が送られている場合、符号画像の破損度合いが高いため、符号画像を再生する処理を行なう。
ステップS904では読取画像から符号除去可能部を判定する。
ステップS905では読取画像の全領域に除去可能部分が全く存在しない場合、又は、存在しても少ない場合にステップS906に進む。一方、読取画像に除去可能領域があればS907に進む。なお、除去可能部分(除去可能部)が存在しても少ないというのは、除去可能部分にのみ符号画像をステップS913で合成したならば、その符号画像から元情報を抽出できない程度に、除去可能部分が少ないことを意味するものとする。
ステップS906では出力停止し、警告メッセージを表示し、ユーザに警告を行なう。この理由は、ステップS902の符号再生指示があることで符号画像の破損度合いが高い状態にあるにもかかわらず、符号画像を除去不可能であり、符号画像の再生が不可能であるため、符号画像が破損してしまうことを防ぐためである。そのため、出力を停止することで、破損した符号画像を持つ読取画像を出力させないのである。
ステップS907では、元情報から必要な符号情報を判定して符号情報画像を得る。ステップS908では、除去可能領域内の前記符号情報画像と原稿情報とを比較する。ステップS909においてS908で比較した結果、原稿情報が符号画像情報に対して不足している領域もしくはドットが存在するかどうかを判断する。ここで不足している領域もしくはドットが存在しない場合には、符号画像再生指示と矛盾するため警告メッセージを表示する。また、原稿情報が符号画像情報に対して不足している領域もしくはドットが存在する場合には、ステップS911へと進む。
ステップS911で原稿画像情報の中の符号情報のうち不足している個所を認識して不足個所情報を抽出する。
ステップS912で、ステップS911の不足個所情報として抽出された個所の符号情報を除去する。
ステップS913で、S911で抽出された個所に不足している符号情報を追加して合成する。
ステップS914で、ステップS913で合成した合成画像(つまり、符号画像の不足部分を付加した画像)を出力し、処理を終了する。
以上のように、本実施形態では、画像処理装置にて、誤り検出率が閾値よりも大きいか否かを判断している。大きい場合は、画像形成装置において、符号画像除去可能部の中で欠落している領域もしくはドットを検出して、いったんその部分を除去または消去した上で欠落している部分の再生を行っている。
この場合のステップS912で行うドットの削除に関しては、多少のドットのずれその他の原因により、新規で付加するドットの周辺にごみが残らないように一旦削除することを想定した。しかし、エンジン性能、もしくは背景色の有無などの条件に応じて、このステップを削除することもできる。
また、本願発明は、誤り検出率が読み取り限界に達する(誤り検出率が読み取り限界に達すると、符号画像から元情報が抽出できなくなる)前に、符号画像を再生させることによって、元情報が抽出不能になることを防ぐことを目的としている。本明細書ではS310またはS810において、誤り検出率がある一定値以上になったかどうかに応じて符号画像を再生させるかどうかを判定した。しかし、プリンタの印字性能、またはスキャナの読み取り性能、もしくはセキュリティ情報を含んでいるような、より元情報の欠落が許されないようなケースにおいては、この判定結果によらずに原稿画像の再生処理を行うこともできる。
(その他の実施形態)
前述した実施形態の機能を実現するように前述した実施形態の構成を動作させるプログラムをコンピュータ読取可能な記憶媒体に記憶させ、該記憶媒体に記憶されたプログラムをコードとして読み出し、コンピュータにおいて実行する処理方法も上述の実施形態の範疇に含まれる。また、前述のプログラムが記憶された記憶媒体はもちろんそのプログラム自体も上述の実施形態に含まれる。
かかる記憶媒体としてはたとえばフロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD―ROM、磁気テープ、不揮発性メモリカード、ROMを用いることができる。
また前述の記憶媒体に記憶されたプログラム単体で処理を実行しているものに限らず、他のソフトウエア、拡張ボードの機能と共同して、OS上で動作し前述の実施形態の動作を実行するものも前述した実施形態の範疇に含まれる。
本発明の第1の実施形態に係る、ネットワークシステム全体の構成図である。 本発明の第1の実施形態に係る、マルチファンクションシステムの構成を説明するブロック図である。 本発明の第1の実施形態に係る、マルチファンクションシステムにおける、情報源を誤り訂正符号化して得られた情報に関する処理を示すフローチャートである。 本発明の第1の実施形態に係る、複写回数とエラー率との関係を示す図である。 本発明の第1の実施形態に係る、画像形成装置が符号画像を原稿画像と合成して印刷する処理を示すフローチャートである。 本発明の第1の実施形態に係る、二次元バーコードの除去処理のイメージを示す図である。 本発明の第1の実施形態に係る、二次元バーコードの再生処理のイメージを示す図である。 本発明の第2の実施形態に係る、マルチファンクションシステムにおける、情報源を誤り訂正符号化して得られた情報に関する処理を示すフローチャートである。 本発明の第2の実施形態に係る、画像形成装置が符号画像を原稿画像と合成して印刷する処理を示すフローチャートである。
符号の説明
1001、1100、1020 MFP
1002、1021 データベースサーバ
1003 データベースクライアント
1004、1023 電子メールサーバ
1005 電子メールクライアント
1006、1022 WWWサーバ
1007 DNSサーバ
1010 ローカル・エリア・ネットワーク
1011 ルータ
1012 インターネット/イントラネット
1030 PSTNまたはISDN
1031 FAX
1040 プリンタ

Claims (6)

  1. ネットワークに接続された画像処理装置であって、該ネットワークに接続された別の装置であって誤り訂正符号化された元情報を画像化することにより作成された符号画像をシート上に形成する装置と該ネットワークを介してデータをやり取りする画像処理装置において、
    前記符号画像が形成されたシートを読み取ることで得られた、読取画像内の符号画像から前記元情報を抽出する抽出手段、
    前記抽出手段により前記元情報を抽出した際の誤り検出率が所定値以上であるか判断する判断手段、並びに、
    前記判断手段により前記誤り検出率が所定値以上であると判断された場合、前記抽出手段により抽出された前記元情報から符号画像を再生して、該符号画像を前記読取画像内の符号画像に置換える置換手段であって、前記判断手段により前記誤り検出率が所定値以上であると判断された場合、前記読取画像から前記符号画像を除去する除去手段、前記抽出手段により抽出された前記元情報を符号画像化する符号画像化手段、及び、前記符号画像化手段によって得られた新たな符号画像を、前記除去手段により符号画像が除去された領域に合成する合成手段を有する置換手段
    を有することを特徴とする画像処理装置。
  2. 前記判断手段により前記誤り検出率が所定値以上であると判断された場合、前記置換手段により符号画像が置換えられた読取画像を出力し、前記判断手段により前記誤り検出率が所定値未満であると判断された場合、前記置換手段により符号画像で置換されていない前記読取画像を出力する制御手段をさらに有することを特徴とする請求項1に記載の画像処理装置。
  3. ネットワークに接続される画像処理装置の制御方法であって、該ネットワークに接続された別の装置であって誤り訂正符号化された元情報を画像化することにより作成された符号画像をシート上に形成する装置と該ネットワークを介してデータをやり取りする画像処理装置の制御方法において、
    前記符号画像が形成されたシートを読み取ることで得られた、読取画像内の符号画像から前記元情報を抽出する抽出ステップ、
    前記抽出ステップで前記元情報を抽出した際の誤り検出率が所定値以上であるか判断する判断ステップ、並びに、
    前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記抽出ステップで抽出された前記元情報から符号画像を再生して、該符号画像を前記読取画像内の符号画像に置換える置換ステップであって、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記読取画像から前記符号画像を除去する除去ステップ、前記抽出ステップで抽出された前記元情報を符号画像化する符号画像化ステップ、および、前記符号画像化ステップによって得られた新たな符号画像を、前記除去ステップで符号画像が除去された領域に合成する合成ステップを有する置換ステップ
    を有することを特徴とする制御方法。
  4. 前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記置換ステップで符号画像が置換えられた読取画像を出力し、前記判断ステップで前記誤り検出率が所定値未満であると判断された場合、前記置換ステップで符号画像の置換されていない前記読取画像を出力する制御ステップをさらに有することを特徴とする請求項3に記載の制御方法。
  5. ネットワークに接続された画像処理装置が備える処理装置であって、該ネットワークに接続された別の装置であって誤り訂正符号化された元情報を画像化することにより作成された符号画像をシート上に形成する装置と該ネットワークを介してデータをやり取りする画像処理装置が備える処理装置に、
    前記符号画像が形成されたシートを読み取ることで得られた、読取画像内の符号画像から前記元情報を抽出する抽出ステップ、
    前記抽出ステップで前記元情報を抽出した際の誤り検出率が所定値以上であるか判断する判断ステップ、並びに、
    前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記抽出ステップで抽出された前記元情報から符号画像を再生して、該符号画像を前記読取画像内の符号画像に置換える置換ステップであって、前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記読取画像から前記符号画像を除去する除去ステップ、前記抽出ステップで抽出された前記元情報を符号画像化する符号画像化ステップ、および、前記符号画像化ステップによって得られた新たな符号画像を、前記除去ステップで符号画像が除去された領域に合成する合成ステップを有する置換ステップ
    を実行させるためのプログラム。
  6. 前記判断ステップで前記誤り検出率が所定値以上であると判断された場合、前記置換ステップで符号画像が置換えられた読取画像を出力し、前記判断ステップで前記誤り検出率が所定値未満であると判断された場合、前記置換ステップで符号画像の置換されていない前記読取画像を出力する制御ステップを、前記処理装置にさらに実行させることを特徴とする請求項5に記載のプログラム。
JP2007331884A 2007-07-31 2007-12-25 画像処理装置及びその制御方法、並びにプログラム Expired - Fee Related JP4512633B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007331884A JP4512633B2 (ja) 2007-07-31 2007-12-25 画像処理装置及びその制御方法、並びにプログラム
US12/181,049 US8542867B2 (en) 2007-07-31 2008-07-28 Image processing for reproducing code image from original information

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2007198948 2007-07-31
JP2007331884A JP4512633B2 (ja) 2007-07-31 2007-12-25 画像処理装置及びその制御方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2009055582A JP2009055582A (ja) 2009-03-12
JP4512633B2 true JP4512633B2 (ja) 2010-07-28

Family

ID=40506196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007331884A Expired - Fee Related JP4512633B2 (ja) 2007-07-31 2007-12-25 画像処理装置及びその制御方法、並びにプログラム

Country Status (1)

Country Link
JP (1) JP4512633B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5412465B2 (ja) 2011-04-27 2014-02-12 京セラドキュメントソリューションズ株式会社 画像処理装置
JP5401501B2 (ja) * 2011-04-27 2014-01-29 京セラドキュメントソリューションズ株式会社 画像処理装置
JP5920293B2 (ja) 2013-08-23 2016-05-18 富士ゼロックス株式会社 画像処理装置及びプログラム
JP5984863B2 (ja) 2014-01-29 2016-09-06 京セラドキュメントソリューションズ株式会社 画像処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003283798A (ja) * 2002-03-27 2003-10-03 Minolta Co Ltd 画像処理装置
JP2004120562A (ja) * 2002-09-27 2004-04-15 Minolta Co Ltd 画像処理装置
JP2005012623A (ja) * 2003-06-20 2005-01-13 Fuji Xerox Co Ltd 画像処理装置及び画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003283798A (ja) * 2002-03-27 2003-10-03 Minolta Co Ltd 画像処理装置
JP2004120562A (ja) * 2002-09-27 2004-04-15 Minolta Co Ltd 画像処理装置
JP2005012623A (ja) * 2003-06-20 2005-01-13 Fuji Xerox Co Ltd 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP2009055582A (ja) 2009-03-12

Similar Documents

Publication Publication Date Title
JP5132517B2 (ja) 画像処理装置および画像処理方法
US8542867B2 (en) Image processing for reproducing code image from original information
JP4416782B2 (ja) 画像処理装置、決定装置、変更装置、および画像処理方法
JP5153242B2 (ja) 画像処理装置、画像処理方法
JP4512633B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP5178490B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム
US8654404B2 (en) Image processing apparatus, image processing method and memory medium
CN110870294B (zh) 图像形成装置的基于特性的操作
JP4634261B2 (ja) 画像形成装置、画像処理装置、画像出力装置、携帯端末、画像処理システム、画像形成方法、画像処理方法、画像出力方法、画像形成プログラム、画像処理プログラムおよび画像出力プログラム
JP5225201B2 (ja) 画像処理装置
JP4418826B2 (ja) 画像出力装置およびその制御方法
JP2008288912A (ja) 画像処理装置および画像形成装置
JP2008124996A (ja) 画像処理装置、および画像処理方法
US20200336620A1 (en) Image processing apparatus and recording medium
JP5326882B2 (ja) 画像処理装置
US20100188670A1 (en) Image processing apparatus, image processing method and program executing the image processing method
US20110158531A1 (en) Image processing apparatus and control method thereof
JP2007311911A (ja) 画像形成装置
JP2006020025A (ja) ネットワーク複合機
JP2008160675A (ja) 画像生成装置、複製制御装置、プログラム、および印刷媒体
JP2010278535A (ja) 画像処理装置
JP2007060267A (ja) 縮小レイアウト機能を持った画像処理システム
JP2008117248A (ja) 画像処理装置
JP2006295301A (ja) 画像形成装置
JP2005305667A (ja) 記録装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090918

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091211

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100409

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140514

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees