JP5173566B2 - 画像処理装置及びその制御方法、プログラム - Google Patents

画像処理装置及びその制御方法、プログラム Download PDF

Info

Publication number
JP5173566B2
JP5173566B2 JP2008121646A JP2008121646A JP5173566B2 JP 5173566 B2 JP5173566 B2 JP 5173566B2 JP 2008121646 A JP2008121646 A JP 2008121646A JP 2008121646 A JP2008121646 A JP 2008121646A JP 5173566 B2 JP5173566 B2 JP 5173566B2
Authority
JP
Japan
Prior art keywords
data
information
image
additional information
search
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008121646A
Other languages
English (en)
Other versions
JP2009271729A5 (ja
JP2009271729A (ja
Inventor
賢太 松井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008121646A priority Critical patent/JP5173566B2/ja
Priority to US12/426,916 priority patent/US8224091B2/en
Priority to CN2009101376919A priority patent/CN101577778B/zh
Publication of JP2009271729A publication Critical patent/JP2009271729A/ja
Publication of JP2009271729A5 publication Critical patent/JP2009271729A5/ja
Application granted granted Critical
Publication of JP5173566B2 publication Critical patent/JP5173566B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition

Description

本発明は、入力画像データを処理して保存する画像処理装置及びその制御方法、プログラムに関するものである。
従来より、PDLプリント画像、スキャン画像、FAX受信画像等の複数の入力部を介して入力された画像から、目的の画像を一意に検索するための技術が開発されている(特許文献1参照)。
特開2004−215067号公報
しかしながら、上述した従来技術では、最近のPDF(Portable Document Format)やXPS(XML Paper Specification)等の電子文書に含まれる実際には印刷されない情報は検索できなかった。また、スキャンデータの文字以外の画像や、ユーザがPDL画像やスキャン画像に付加した情報も検索することができなかった。
本発明の上記の課題を解決するためになされたものであり、検索機能及び検索効率を向上させることができる画像処理装置及びその制御方法、プログラムを提供することを目的とする。
上記の目的を達成するための本発明による画像処理装置は以下の構成を備える。即ち、
入力画像データを処理して保存する画像処理装置であって、
前記入力画像データをベクタデータに変換する変換手段と、
前記入力画像データの種別を判定する判定手段と、
1)前記判定手段で判定した結果、前記入力画像データが第一のデータの種別の場合、前記入力画像データの前記ベクタデータへの変換処理において前記入力画像データから、検索に利用できる情報を抽出し、その後の前記画像処理装置のアイドルタイムに前記ベクタデータから検索に利用できる情報を更に抽出し、2)前記判定手段で判定した結果、前記入力画像データが第二のデータの種別の場合、前記入力画像データに像域分離をすることで検索に利用できる情報を抽出する抽出手段と、
前記抽出手段で抽出した情報の種類が、印刷される文字情報である基本付加情報、印刷されない文字情報である応用付加情報、ビットマップデータに含まれる画像の特徴を示す画像情報である画像付加情報のいずれであるかを判定して、その種類に応じた種類別の判定された付加情報と、前記ベクタデータとを関連付けて保持する保持手段と、
前記付加情報を検索するための検索条件として、検索用キーワードと前記付加情報の種類として前記基本付加情報、前記応用付加情報及び前記画像情報の少なくとも1つの指定を入力する入力手段と、
前記入力手段から入力された検索条件に合致する、指定された種類の前記付加情報を、前記保持手段から検索する検索手段と、
前記検索手段で検索された付加情報に関連付けられているベクタデータのファイル名を、検索結果として表示する表示手段と
を有する。
また、好ましくは、前記ベクタデータをビットマップデータに展開する展開手段を更に有し、
前記抽出手段は、
PDLデータに含まれる文字情報を抽出する文字情報抽出手段と、
前記ビットマップデータに含まれる文字画像を認識して、文字情報を抽出する文字認識手段と、
前記ビットマップデータに含まれる画像の特徴を示す画像情報を抽出する画像情報抽出手段と
を有する。
また、好ましくは、前記判定手段の判定の結果、前記入力画像データがPDLデータである場合、前記抽出手段は、
前記PDLデータを前記変換手段によって前記ベクタデータに変換する過程で、前記文字情報抽出手段によって前記PDLデータに含まれる文字情報を抽出し、
前記画像情報抽出手段によって前記ビットマップデータに含まれる画像の特徴を示す画像情報を抽出し、
前記過程で、前記文字情報抽出手段から文字情報が抽出されない場合には、前記文字認識手段によって前記ビットマップデータに含まれる文字画像を認識して、文字情報を抽出する。
また、好ましくは、前記判定手段の判定の結果、入力画像データがビットマップデータであるスキャンデータである場合、前記抽出手段は、
前記文字認識手段によって前記ビットマップデータであるスキャンデータに含まれる文字画像を認識して、文字情報を抽出し、
前記画像情報抽出手段によって前記ビットマップデータであるスキャンデータに含まれる画像の特徴を示す画像情報を抽出する。
また、好ましくは、前記検索に利用できる情報とは、前記ベクタデータでは可視化されない、前記入力画像データに含まれる情報を含む。
上記の目的を達成するための本発明による画像処理装置の制御方法は以下の構成を備える。即ち、
入力画像データを処理して保存する画像処理装置の制御方法であって、
変換手段が、前記入力画像データをベクタデータに変換する変換工程と、
判定手段が、前記入力画像データの種別を判定する判定工程と、
抽出手段が、1)前記判定工程で判定した結果、前記入力画像データが第一のデータの種別の場合、前記入力画像データの前記ベクタデータへの変換処理において、前記入力画像データから、検索に利用できる情報を抽出し、その後の前記画像処理装置のアイドルタイムに前記ベクタデータから検索に利用できる情報を更に抽出し、2)前記判定工程で判定した結果、前記入力画像データが第二のデータの種別の場合、前記入力画像データに像域分離をすることで検索に利用できる情報を抽出する抽出工程と、
保持手段が、前記抽出工程で抽出した情報の種類が、印刷される文字情報である基本付加情報、印刷されない文字情報である応用付加情報、ビットマップデータに含まれる画像の特徴を示す画像情報である画像付加情報のいずれであるかを判定して、その種類に応じた種類別の判定された付加情報と、前記ベクタデータとを関連付けて記憶媒体に保持する保持工程と、
入力手段が、前記付加情報を検索するための検索条件として、検索用キーワードと前記付加情報の種類として前記基本付加情報、前記応用付加情報及び前記画像情報の少なくとも1つの指定を入力する入力工程と、
検索手段が、前記入力工程から入力された検索条件に合致する、指定された種類の前記付加情報を、前記記憶媒体から検索する検索工程と、
表示手段が、前記検索工程で検索された付加情報に関連付けられているベクタデータのファイル名を、検索結果として表示する表示工程と
を有する。
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
入力画像データを処理して保存する画像処理装置の制御をコンピュータに実行させるための、コンピュータ可読媒体に記憶されたプログラムであって、
前記入力画像データをベクタデータに変換する変換工程と、
前記入力画像データの種別を判定する判定工程と、
1)前記判定工程で判定した結果、前記入力画像データが第一のデータの種別の場合、前記入力画像データの前記ベクタデータへの変換処理において、前記入力画像データから、検索に利用できる情報を抽出し、その後の前記画像処理装置のアイドルタイムに前記ベクタデータから検索に利用できる情報を更に抽出し、2)前記判定工程で判定した結果、前記入力画像データが第二のデータの種別の場合、前記入力画像データに像域分離をすることで検索に利用できる情報を抽出する抽出工程と、
前記抽出工程で抽出した情報の種類が、印刷される文字情報である基本付加情報、印刷されない文字情報である応用付加情報、ビットマップデータに含まれる画像の特徴を示す画像情報である画像付加情報のいずれであるかを判定して、その種類に応じた種類別の判定された付加情報と、前記ベクタデータとを関連付けて記憶媒体に保持する保持工程と、
前記付加情報を検索するための検索条件として、検索用キーワードと前記付加情報の種類として前記基本付加情報、前記応用付加情報及び前記画像情報の少なくとも1つの指定を入力する入力工程と、
前記入力工程から入力された検索条件に合致する、指定された種類の前記付加情報を、前記記憶媒体から検索する検索工程と、
前記検索工程で検索された付加情報に関連付けられているベクタデータのファイル名を、検索結果として表示する表示工程と
をコンピュータに実行させる。
本発明によれば、検索機能及び検索効率を向上させることができる画像処理装置及びその制御方法、プログラムを提供できる。
以下、本発明の実施の形態について図面を用いて詳細に説明する。
<実施形態1>
本発明の実施形態を適用するに好適な画像処理装置として機能する、」マルチファンクションペリフェラル(以下、MFP)の構成について、図1を用いて説明する。
図1は本発明の実施形態1の画像処理装置の構成を示す図である。
MFP100は、主に、原稿露光(スキャナ)部101、レーザ露光部102、感光ドラム等を備える作像部103、定着部104、給紙/搬送部105及び、これらを制御するプリンタ制御部106から構成される。
原稿露光部101は、原稿台に置かれた原稿に対して、照明を当てて原稿画像を光学的に読み取り、その読取画像を電気信号に変換して画像データを作成する。レーザ露光部102は、作成された画像データに応じて変調された光線(レーザ光等)を等角速度で回転する回転多面鏡(ポリゴンミラー)に入射させ、反射走査光として感光ドラムに照射する。
作像部103は、感光ドラムを回転駆動し、帯電器によって帯電させ、レーザ露光部102によって感光ドラム上に形成された潜像をトナーによって現像化し、そのトナー像をシート(印刷用紙)に転写する。その際、作像部103は、転写されずに感光ドラム上に残った微小トナーを回収する一連の電子写真プロセスを実行して作像する。
その後、作像部103は、シートが転写ドラムの所定位置に巻きつき、4回転する間に、4色のトナーを持つそれぞれの現像ユニット(現像ステーション)が入れ替わりで順次、電子写真プロセスを繰り返し実行する。4回転の後、4色(マゼンタ(M)、シアン(C)、イエロー(Y)、ブラック(K))のフルカラートナー像を転写されたシートは、転写ドラムを離れ、定着部104へ搬送される。
尚、実施形態1の作像部103は、カラー印刷が可能なカラーMFPの場合の構成を示しており、モノクロ印刷を行うモノクロMFPの場合は、構成されるトナーがブラック(K)のみとなり、電子写真プロセスも1回に短縮される。
定着部104は、ローラやベルトの組み合わせによって構成される搬送機構と、熱源(ハロゲンヒータ等)を内蔵している。そして、定着部104は、この搬送機構と熱源を利用して、作像部103によってトナー像が転写されたシート上のトナーを、熱と圧力によって溶解、定着させる。
給紙/搬送部105は、シートカセットやペーパーデッキに代表されるシート収納庫を一つ以上持っており、プリンタ制御部106の指示に応じてシート収納庫に収納された複数のシートの中から一枚分離し、作像部103及び定着部104へ搬送する。シートは作像部103の転写ドラムに巻きつけられ、4回転した後に定着部104へ搬送される。4回転する間に、YMCK各色のトナー像がシートに転写される。また、シートの両面に画像形成する場合は、給紙/搬送部105は、定着部104を通過したシートを再度作像部103へ搬送する搬送経路を通るように制御する。
プリンタ制御部106は、MFP100全体を制御するMFP制御部107と通信して、その指示に応じて制御を実行する。これと共に、プリンタ制御部106は、原稿露光部101、レーザ露光部102、作像部103、定着部104、給紙/搬送部105の状態を管理しながら、全体が調和を保って円滑に動作できるよう指示を行う。
次に、MFP100のMFP制御部107である、コントロールユニット(コントローラ)の詳細構成について、図2を用いて説明する。
図2は本発明の実施形態1のMFPのコントローラの一構成例を示すブロック図である。
図2において、コントローラ200は、画像入力デバイスであるスキャナ201及び画像出力デバイスであるプリンタエンジン202と接続し、画像データの読取やプリント出力のための制御を行う。また、コントローラ200は、LAN10及び公衆回線204と接続することで、画像情報やデバイス情報をLAN10経由で入出力するための制御を行う。
CPU205は、MFP100全体を制御するための中央処理装置である。RAM206は、CPU205が動作するためのシステムワークメモリであり、入力された画像データを一時記憶するための画像メモリでもある。さらに、ROM207は、ブートROMであり、システムのブートプログラムが格納されている。
HDD208は、ハードディスクドライブであり、各種処理のためのシステムソフトウェア及び入力された画像データ等を格納する。操作部I/F209は、画像データ等を表示可能な表示画面を有する操作部210に対するインタフェース部であり、操作部210に対して操作画面データを出力する。また、操作部I/F209は、操作部210から操作者が入力した情報をCPU205に伝える役割をする。
ネットワークI/F211は、例えば、LANカード等で実現され、LAN10に接続して外部装置との間で情報の入出力を行う。さらにまた、モデム212は、公衆回線204に接続して外部装置との間で情報の入出力を行う。
以上のユニットがシステムバス213上に配置されている。
イメージバスI/F214は、システムバス213と、画像データを高速で転送する画像バス215とを接続するためのインタフェースであり、データ構造を変換するバスブリッジである。画像バス215上には、ラスタイメージプロセッサ216、デバイスI/F217、スキャナ画像処理部218、プリンタ画像処理部219、画像編集処理部220、領域分割処理部221、カラーマネージメントモジュール(CMM)230が接続される。
ラスタイメージプロセッサ(RIP)216は、ベクタデータをビットマップデータに展開する。デバイスI/F217は、スキャナ201及びプリンタエンジン202と、コントローラ200とを接続し、画像データの同期系/非同期系の変換を行う。
また、スキャナ画像処理部218は、スキャナ201から入力した画像データに対して、補正、加工、編集等の各種画像処理を行う。プリンタ画像処理部219は、プリント出力する画像データに対して、プリンタエンジン202に応じた補正、解像度変換等の各種画像処理を行う。画像編集処理部220は、画像データの回転や、画像データの圧縮伸長処理等の各種画像処理を行う。
領域分割処理部221は、入力されたビットマップデータを解析して、それに含まれるオブジェクトの塊毎の領域に分割し、各領域の属性を判定して分類する処理を行う。属性としては、文字、画像、図形等の種類がある。
ここで、領域分割の一例について、図3を用いて説明する。
図3は本発明の実施形態1の入力画像に対する領域分割の一例を示す図である。
入力画像41に対する領域分割処理を実行すると、例えば、領域分割結果42が得られる。領域分割結果42において、点線で囲まれる部分が画像の解析結果によって得られるオブジェクトの1単位を表し、各オブジェクトに対して付されている文字列がその属性の種類(ここでは、文字、図形、画像)を表している。
属性毎に分類された領域の内、文字属性の領域は、OCR処理より文字認識処理され、文字列に変換される。つまり、この文字列は、入力画像41で示される文字画像「FISH」や「およぎます。」に対応する。
一方、属性毎に分類された領域内、画像属性の領域は、画像情報抽出処理を通して画像情報に変換される。画像情報とは、画像の特徴を現す文字列であり、例えば、「魚」や「海」等の文字列である。画像情報抽出には、画像特徴量(画像を構成するピクセルの周波数や濃度等)検出や顔認識等の一般的な画像処理技術を用いることができる。
CMM230は、画像データに対して、プロファイルやキャリブレーションデータに基づく色変換処理(色空間変換処理ともいう)を施す専用ハードウェアモジュールである。ここで、プロファイルとは、例えば、機器に依存した色空間で表現したカラー画像データを機器に依存しない色空間(例えば、Lab等)に変換するための関数情報である。また、キャリブレーションデータとは、MFP100におけるスキャナ201やプリンタエンジン202の色再現特性を修正するためのデータである。
次に、MFP100の動作を制御するコントローラソフトウェアの構成について、図4を用いて説明する。
図4は本発明の実施形態1のMFPの動作を制御するコントローラソフトウェアの構成を示すブロック図である。
プリンタI/F1200は、外部との入出力を行う。プロトコル制御部1101は、ネットワークプロトコルを解析・送信することによって外部との通信を行う。ベクタデータ生成部1102は、ビットマップデータから解像度に依存しない描画記述であるベクタデータを生成する。
PDL解析部1103は、例えば、プリンタI/F1200を介して入力したPDL(Page Description Language)データを解析し、より処理しやすい形式(ベクタ形式)のベクタデータに変換する。PDL解析部1103において生成されたベクタデータは、データ描画部として機能するRIP部1104に渡されて処理される。RIP部1104は、ベクタデータをビットマップデータに展開し、展開されたビットマップデータはページメモリ1105に逐次描画される。
ページメモリ1105は、RIP部1104が展開するビットマップデータを一次的に保持する揮発性のメモリである。パネル入出力制御部1020は、操作部210からの入出力を制御する。
ドキュメント記憶部1030は、入力文書データをジョブ単位にベクタデータを包含するデータファイルとして保持し、例えば、ハードディスク等の二次記憶装置によって実現される。入力文書データのデータファイルを保持しておけば、ユーザが好きな時に取り出して繰り返し出力することができる。このように、再利用を目的として画像出力装置の二次記憶装置(ドキュメント記憶部1030)に、入力データをファイル形式で保持する機能をボックス機能、ファイルシステムをボックスと呼ぶ。
スキャン制御部1500は、スキャナ201から入力した画像データ(スキャンデータ)に対して、補正、加工、編集等の各種処理を行う。印刷制御部1300は、ページメモリ1105の内容をビデオ信号に変換処理し、プリンタエンジン部1400へ転送を行なう。プリンタエンジン部1400は、受信したビデオ信号を記録紙に永久可視画像形成するための印刷機構部である。
次に、実施形態1における「PDLデータ」と、PDLデータの「印刷結果」、PDLデータを印刷用データに変換した「ベクタデータ」と、そのベクタデータに関連付けられた「付加情報」の構成について、図5を用いて説明する。
図5は本発明の実施形態1の入力画像データがPDLデータの場合に生成されるベクタデータと付加情報の構成例を示す図である。
PDLデータ51は、文書の一部を「タグ」と呼ばれる特別な文字列で囲うことにより、文章の構造(見出しやハイパーリンク等)や修飾情報(文字の大きさや組版の状態等)を記述するマークアップ言語で構成される。
<文書>タグに囲まれた文書内には、
最初の<グラフィック描画>で「FISH」を描画し、
次の<グラフィック描画>で「☆」を描画し、
次の<テキスト描画>で「およぎます。」を描画し、
最後の<イメージ描画>で「魚の画像」を描画する、という指示がある。
PDLデータ51を解釈して得られる描画結果が、描画結果52である。
PDLデータ51を解釈して生成される印刷用データであるベクタデータと、PDLデータ51の解釈中に得られる付加情報とを関連付けて保存したものが、保存データ53である。
ベクタデータから付加情報にリンクが貼られ関連付けが行われる。また、付加情報からは、付加情報の実体に対するリンクが貼られ、付加情報の終端を示す情報でリンクは途切れる。
ここでは、PDLデータ51を解釈中に抽出できる文字列「およぎます。」が付加情報として保存データ53に保存されている。
次に、実施形態1における「スキャンデータ」と、スキャンデータを領域分割して印刷用データに変換した「ベクタデータ」と、そのベクタデータに関連付けられた「付加情報」の構成について、図6を用いて説明する。
図6は本発明の実施形態1の入力画像データがスキャンデータの場合に生成されるベクタデータと付加情報の構成例を示す図である。
スキャンデータ61を、領域分割すると図3で示す領域分割結果42が得られるが、ここから文字属性領域の文字列を抽出(文字情報抽出)すると、保存データ62のようなベクタデータと付加情報の関連付けが構成される。リンク構成は、図5の保存データ53と同様である。
ここで、図5のPDLデータ51の場合、保存データ53の付加情報は「およぎます。」だけであるが、スキャンデータ61では「およぎます。」の他に「FISH」も付加情報に加えられている。
さらに、画像属性領域の画像情報を抽出(画像情報抽出)すると、保存データ63のようなベクタデータと付加情報の関連付けが構成される。リンク構成は、図5の保存データ53、図6の保存データ62と同様である。
ここでは、画像の特徴を現す画像情報として、保存データ62に対して、「魚」、「海」が付加情報に追加されている。
次に、実施形態1のMFP100のコントローラ200が実行する処理について、図7を用いて説明する。
図7は本発明の実施形態1のMFPのコントローラが実行する処理を示すフローチャートである。
ステップS101において、コントローラ200は、入力画像データの種別を判定する。ここでは、コントローラ200は、入力画像データがPDLデータであるかスキャンデータであるかを判定する。入力画像データがPDLデータである場合、ステップS102に進む。一方、入力画像データがスキャンデータである場合、ステップS113に進む。
ステップS102において、コントローラ200は、PDLデータを解釈して印刷用のベクタデータを生成する。
ステップS103において、コントローラ200は、PDLデータを解釈しながらPDLデータに含まれる文字列を抽出し、抽出した文字列をベクタデータの付加情報に追加する。
ステップS104において、コントローラ200は、ベクタデータ生成終了(ベクタ形式の印刷用データに変換する過程)までにステップS103における文字列の抽出ができたかどうかを判定する。文字列を抽出できた場合(ステップS104でYES)、ステップS105に進む。一方、文字列を抽出できなかった場合(ステップS104でNO)、ステップS107に進む。
ステップS105において、コントローラ200は、ベクタデータと付加情報を関連付けて、ドキュメント記憶部1030に確保されているボックスに保存する。
ステップS106において、コントローラ200は、処理すべきことが何もないアイドルタイムかどうかを判定する。アイドルタイムである場合(ステップS106でYES)、ステップS107に進む。一方、アイドルタイムでない場合(ステップS106でNO)、ステップS118に進み、その他の処理を行う。
ステップS107において、コントローラ200は、保存したベクタデータをRIP部1104によってビットマップデータを生成し、生成されたビットマップデータに対して領域分割を行う。
ステップS108において、コントローラ200は、領域分割の結果、文字属性領域の文字情報をベクタデータの付加情報に追加する。
ステップS109において、コントローラ200は、ベクタデータと付加情報を関連付けて、ドキュメント記憶部1030に確保されているボックスに保存する。
ステップS110において、コントローラ200は、処理すべきことが何もないアイドルタイムかどうかを判定する。アイドルタイムである場合(ステップS110でYES)、ステップS111へ進む。一方、アイドルタイムでない場合(ステップS110でNO)、ステップS119に進み、その他の処理を行う。
ステップS111において、コントローラ200は、領域分割の結果、画像属性領域の画像特徴量を算出し、それを画像情報としてベクタデータの付加情報に追加する。
ステップS112において、コントローラ200は、ベクタデータと付加情報を関連付けて、ドキュメント記憶部1030に確保されているボックスに保存する。
ステップS101において、入力画像データがスキャンデータである場合、ステップS113において、コントローラ200は、ビットマップデータであるスキャンデータに対して領域分割を行い、印刷用のベクタデータを生成する。
ステップS114において、コントローラ200は、領域分割の結果、文字属性領域の文字情報をベクタデータの付加情報に追加する。
ステップS115において、コントローラ200は、ベクタデータと付加情報を関連付けて、ドキュメント記憶部1030に確保されているボックスに保存する。
以上説明したように、実施形態1によれば、電子文書フォーマットに含まれる印刷される文字はもちろん、実際には印刷されない情報やスキャン画像の文字や画像までも検索することができる。このように、効率的な検索処理を実現することができる。
<実施形態2>
実施形態1においては、抽出した文字情報や画像情報を区別することなくひとつの付加情報に保存する構成としているが、これに限定されない。実施形態2では、抽出した情報毎に区別して付加情報に保存する構成について説明する。
実施形態2における「PDLデータ」と、PDLデータの「印刷結果」と、PDLデータを印刷用データに変換した「ベクタデータ」と、そのベクタデータに関連付けられた「付加情報」の構成について、図8を用いて説明する。
図8は本発明の実施形態2の入力画像データがPDLデータの場合に生成されるベクタデータと付加情報の構成例を示す図である。
PDLデータ71は、実施形態1の図5のPDLデータ51と同様、マークアップ言語で構成される。
<文書>タグに囲まれた文書内には
最初に文書<タイトル>である「絵本」が含まれ、
次に<作成者>の「太郎」が含まれる。
これらは実際には印刷されない情報である。
その後に<グラフィック描画>で「FISH」を描画し、
次の<グラフィック描画>で「☆」を描画し、
次の<テキスト描画>で「およぎます。」を描画し、
次の<イメージ描画>で「魚の画像」を描画する、という指示がある。
さらに、<コメント>として「さんま」が含まれるが、これも「絵本」、「太郎」と同様に実際には印刷されない情報である。
PDLデータ71を解釈して得られる描画結果が、描画結果72である。描画結果72から明らかなように、PDLデータ71中の「絵本」、「太郎」、「さんま」等の文字列は描画されない。
PDLデータ71を解釈して生成される印刷用データであるベクタデータと、PDLデータ71の解釈中に得られる付加情報とを関連付けて保存したものが、保存データ73である。
ベクタデータから付加情報にリンクが貼られ、関連付けが行われる。また、付加情報は、「基本付加情報」、「応用付加情報」及び「画像付加情報」から構成され、ベクタデータから順々にリンクされている。各付加情報には実体に対するリンクが貼られ、それぞれ付加情報の終端を示す情報でリンクは途切れる。
ここでは、PDLデータ71を解釈中に抽出できる文字列で、かつ実際に印刷する文字列「およぎます。」が基本付加情報として保存データ73に保存されている。
また、PDLデータ71を解釈中に抽出できるが、実際には印刷しない文字列「絵本」、「太郎」及び「さんま」が応用付加情報として保存データ73に保存されている。
保存データ74は、保存データ73のベクタデータをビットマップデータに展開し、さらに展開したビットマップデータを領域分割して、文字情報、画像情報を抽出した結果、生成されるベクタデータと付加情報の構成である。
図6の保存データ63と同様に、文字情報として「およぎます。」と「FISH」が抽出されるが、これらは実際に印刷する情報として基本付加情報に保存されている。また、画像情報としては「魚」、「海」が抽出され、画像付加情報に保存されている。
このような構成することで、例えば、「印刷されている情報だけを検索したい」、「画像は検索対象外にしたい」というユーザの要望に容易に応えることができ、検索の利便性と検索パフォーマンスの向上を期待できる。
次に、実施形態2のMFP100のコントローラ200が実行する処理について、図9を用いて説明する。尚、図9では、付加情報の保存する方法以外は、実施形態1の図7のフローチャートで示す処理と同様の処理となるので、これについては省略し、図9では、付加情報の保存処理について説明する。
図9は本発明の実施形態2の付加情報の保存処理を示すフローチャートである。
ステップS201において、コントローラ200は、入力画像データから抽出した情報が実際に印刷される文字情報であるかどうかを判定する。印刷される文字情報である場合(ステップS201でYES)、ステップS202に進む。一方、印刷される文字情報でない場合(ステップS201でNO)、ステップS203に進む。
ステップS202において、コントローラ200は、文字情報を基本付加情報に追加する。
ステップS203おいて、コントローラ200は、入力画像データから抽出した情報が実際に印刷されない文字情報であるかどうかを判定する。印刷されない文字情報である場合(ステップS203でYES)、ステップS204に進む。一方、印刷されない文字情報でない場合(ステップS203でNO)、ステップS205に進む。
ステップS204において、コントローラ200は、文字情報を応用付加情報に追加する。
ステップS205おいて、コントローラ200は、入力画像データから抽出した情報が画像情報であるかどうかを判定する。画像情報である場合(ステップS205でYES)、ステップS206に進む。一方、画像情報でない場合(ステップS205でNO)、ステップS207に進む。
ステップS206において、コントローラ200は、画像情報を画像付加情報に追加する。
ステップS207において、コントローラ200は、ベクタデータと各種付加情報(基本付加情報、応用付加情報、画像付加情報を含む種類別の付加情報)を関連付けて、ドキュメント記憶部1030に確保されているボックスに保存する。
次に、ボックスに保存されたベクタデータと付加情報に対して、コントローラ200が実行する検索処理について、図10を用いて説明する。
図10は本発明の実施形態2の検索処理を示すフローチャートである。
尚、検索処理は、例えば、検索用の操作パネルからの指示に基づいて実行される。
ここで、検索用の操作パネルの一例について、図11を用いて説明する。
図11は本発明の実施形態2の検索用の操作パネルの一例を示す図である。
操作パネル91は、検索用キーワード(検索条件)を入力する入力ウィンドウ92と、検索対象を「基本情報」、「応用情報」及び「画像情報」から選択するトグルスイッチ93〜95を備える。また、検索条件に合致する検索結果(例えば、付加情報に関連付けられているベクタデータのファイル名)を表示するウィンドウ97、検索の進行具合を示すステータスバー96、検索結果をスライドして見るためのスライドバー98を備えている。
更に、検索実行を指示するOKボタン99a、検索のキャンセルを指示するキャンセルボタン99bを備えている。そして、操作パネル91において、各種入力及び設定をした後、OKボタン99aが押下されると、図10の検索処理が実行される。
ステップS301において、コントローラ200は、検索用キーワードが操作パネルより入力されたか判定する。入力された場合(ステップS301でYES)、ステップS302に進む。一方、入力されない場合(ステップS301でNO)、入力されるまで待機する。
ステップS302において、コントローラ200は、ユーザが検索対象に指定した付加情報を判定する。
ステップS303〜ステップS312の処理を、コントローラ200は、ドキュメント記憶部1030に確保されているボックス中の全てのベクタデータに対して行う。
ステップS304において、ユーザが指定した検索対象毎に処理を分岐する。
検索対象が「基本付加情報」の場合は、ステップS309に進み、コントローラ200は、基本付加情報を検索する。「応用付加情報」の場合は、ステップS310に進み、コントローラ200は、応用付加情報を検索する。「画像付加情報」の場合は、ステップS305に進む。
ステップS305において、コントローラ200は、ベクタデータに関連付けられた画像付加情報がないかどうか判定する。画像付加情報がない場合(ステップS305でYES)、ステップS306に進む。一方、画像付加情報がある場合(ステップS305でNO)、ステップS308に進む。
ステップS306において、コントローラ200は、ベクタデータからビットマップデータを生成し、領域分割を行う。
ステップS307において、コントローラ200は、領域分割の結果、画像属性領域の画像特徴量を算出し、それを画像情報としてベクタデータの画像付加情報に追加する。
ステップS308において、コントローラ200は、画像付加情報を検索する。
ステップS311において、コントローラ200は、ユーザが指定した検索対象の付加情報を全て検索したかどうか判定する。全て検索した場合(ステップS311でYES)、ステップS312に進む。一方、全て検索していない場合(ステップS311でNO)、つまり、未検索の付加情報が残っている場合、ステップS304に戻り、残りの付加情報について検索を行う。
ステップS312において、コントローラ200は、ボックスに保存される全てのベクタデータに対して検索が終了したらステップS313の処理に進む。
ステップS314において、コントローラ200は、検索結果を操作パネル上に表示する。
以上説明したように、実施形態2によれば、実施形態1で説明した効果に加えて、付加情報を種類別に分類した上で、ベクタデータと関連付けて保持することで、よりきめの細かい検索処理を実現することができる。
尚、実施形態1や2では、入力画像データから印刷用データに変換した場合の、印刷用データでは可視化されない、入力画像データに含まれる情報(不可視情報)を、特に、検索対象(検索に利用できる)情報としているが、これに限定されない。検索に有効な情報であれば、印刷用データで可視化される情報を積極的に検索対象情報としても良い。
以上、実施形態例を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接あるいは遠隔から供給する。そして、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスクがある。また、更に、記録媒体としては、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、その接続先のホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。また、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。
本発明の実施形態1の画像処理装置の構成を示す図である。 本発明の実施形態1のMFPのコントローラの一構成例を示すブロック図である。 本発明の実施形態1の入力画像に対する領域分割の一例を示す図である。 本発明の実施形態1のMFPの動作を制御するコントローラソフトウェアの構成を示すブロック図である。 本発明の実施形態1の入力画像データがPDLデータの場合に生成されるベクタデータと付加情報の構成例を示す図である。 本発明の実施形態1の入力画像データがスキャンデータの場合に生成されるベクタデータと付加情報の構成例を示す図である。 本発明の実施形態1のMFPのコントローラが実行する処理を示すフローチャートである。 本発明の実施形態2の入力画像データがPDLデータの場合に生成されるベクタデータと付加情報の構成例を示す図である。 本発明の実施形態2の付加情報の保存処理を示すフローチャートである。 本発明の実施形態2の検索処理を示すフローチャートである。 本発明の実施形態2の検索用の操作パネルの一例を示す図である。
符号の説明
200 コントロールユニット
201 スキャナ
202 プリンタエンジン
210 操作部
1101 プロトコル制御部
1102 ベクタデータ生成部
1103 PDL解析部部
1104 RIP部
1105 ページメモリ
1020 パネル入出力制御部
1030 ドキュメント記憶部
1200 プリンタI/F
1300 印刷制御部
1400 プリンタエンジン部
1500 スキャン制御部

Claims (7)

  1. 入力画像データを処理して保存する画像処理装置であって、
    前記入力画像データをベクタデータに変換する変換手段と、
    前記入力画像データの種別を判定する判定手段と、
    1)前記判定手段で判定した結果、前記入力画像データが第一のデータの種別の場合、前記入力画像データの前記ベクタデータへの変換処理において前記入力画像データから、検索に利用できる情報を抽出し、その後の前記画像処理装置のアイドルタイムに前記ベクタデータから検索に利用できる情報を更に抽出し、2)前記判定手段で判定した結果、前記入力画像データが第二のデータの種別の場合、前記入力画像データに像域分離をすることで検索に利用できる情報を抽出する抽出手段と、
    前記抽出手段で抽出した情報の種類が、印刷される文字情報である基本付加情報、印刷されない文字情報である応用付加情報、ビットマップデータに含まれる画像の特徴を示す画像情報である画像付加情報のいずれであるかを判定して、その種類に応じた種類別の判定された付加情報と、前記ベクタデータとを関連付けて保持する保持手段と、
    前記付加情報を検索するための検索条件として、検索用キーワードと前記付加情報の種類として前記基本付加情報、前記応用付加情報及び前記画像情報の少なくとも1つの指定を入力する入力手段と、
    前記入力手段から入力された検索条件に合致する、指定された種類の前記付加情報を、前記保持手段から検索する検索手段と、
    前記検索手段で検索された付加情報に関連付けられているベクタデータのファイル名を、検索結果として表示する表示手段と
    を有することを特徴とする画像処理装置。
  2. 前記ベクタデータをビットマップデータに展開する展開手段を更に有し、
    前記抽出手段は、
    PDLデータに含まれる文字情報を抽出する文字情報抽出手段と、
    前記ビットマップデータに含まれる文字画像を認識して、文字情報を抽出する文字認識手段と、
    前記ビットマップデータに含まれる画像の特徴を示す画像情報を抽出する画像情報抽出手段と
    を有することを特徴とする請求項1に記載の画像処理装置。
  3. 前記判定手段の判定の結果、前記入力画像データがPDLデータである場合、前記抽出手段は、
    前記PDLデータを前記変換手段によって前記ベクタデータに変換する過程で、前記文字情報抽出手段によって前記PDLデータに含まれる文字情報を抽出し、
    前記画像情報抽出手段によって前記ビットマップデータに含まれる画像の特徴を示す画像情報を抽出し、
    前記過程で、前記文字情報抽出手段から文字情報が抽出されない場合には、前記文字認識手段によって前記ビットマップデータに含まれる文字画像を認識して、文字情報を抽出する
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記判定手段の判定の結果、入力画像データがビットマップデータであるスキャンデータである場合、前記抽出手段は、
    前記文字認識手段によって前記ビットマップデータであるスキャンデータに含まれる文字画像を認識して、文字情報を抽出し、
    前記画像情報抽出手段によって前記ビットマップデータであるスキャンデータに含まれる画像の特徴を示す画像情報を抽出する
    ことを特徴とする請求項2の画像処理装置。
  5. 前記検索に利用できる情報とは、前記ベクタデータでは可視化されない、前記入力画像データに含まれる情報を含む
    ことを特徴とする請求項1に記載の画像処理装置。
  6. 入力画像データを処理して保存する画像処理装置の制御方法であって、
    変換手段が、前記入力画像データをベクタデータに変換する変換工程と、
    判定手段が、前記入力画像データの種別を判定する判定工程と、
    抽出手段が、1)前記判定工程で判定した結果、前記入力画像データが第一のデータの種別の場合、前記入力画像データの前記ベクタデータへの変換処理において、前記入力画像データから、検索に利用できる情報を抽出し、その後の前記画像処理装置のアイドルタイムに前記ベクタデータから検索に利用できる情報を更に抽出し、2)前記判定工程で判定した結果、前記入力画像データが第二のデータの種別の場合、前記入力画像データに像域分離をすることで検索に利用できる情報を抽出する抽出工程と、
    保持手段が、前記抽出工程で抽出した情報の種類が、印刷される文字情報である基本付加情報、印刷されない文字情報である応用付加情報、ビットマップデータに含まれる画像の特徴を示す画像情報である画像付加情報のいずれであるかを判定して、その種類に応じた種類別の判定された付加情報と、前記ベクタデータとを関連付けて記憶媒体に保持する保持工程と、
    入力手段が、前記付加情報を検索するための検索条件として、検索用キーワードと前記付加情報の種類として前記基本付加情報、前記応用付加情報及び前記画像情報の少なくとも1つの指定を入力する入力工程と、
    検索手段が、前記入力工程から入力された検索条件に合致する、指定された種類の前記付加情報を、前記記憶媒体から検索する検索工程と、
    表示手段が、前記検索工程で検索された付加情報に関連付けられているベクタデータのファイル名を、検索結果として表示する表示工程と
    を有することを特徴とする画像処理装置の制御方法。
  7. 入力画像データを処理して保存する画像処理装置の制御をコンピュータに実行させるための、コンピュータ可読媒体に記憶されたプログラムであって、
    前記入力画像データをベクタデータに変換する変換工程と、
    前記入力画像データの種別を判定する判定工程と、
    1)前記判定工程で判定した結果、前記入力画像データが第一のデータの種別の場合、前記入力画像データの前記ベクタデータへの変換処理において、前記入力画像データから、検索に利用できる情報を抽出し、その後の前記画像処理装置のアイドルタイムに前記ベクタデータから検索に利用できる情報を更に抽出し、2)前記判定工程で判定した結果、前記入力画像データが第二のデータの種別の場合、前記入力画像データに像域分離をすることで検索に利用できる情報を抽出する抽出工程と、
    前記抽出工程で抽出した情報の種類が、印刷される文字情報である基本付加情報、印刷されない文字情報である応用付加情報、ビットマップデータに含まれる画像の特徴を示す画像情報である画像付加情報のいずれであるかを判定して、その種類に応じた種類別の判定された付加情報と、前記ベクタデータとを関連付けて記憶媒体に保持する保持工程と、
    前記付加情報を検索するための検索条件として、検索用キーワードと前記付加情報の種類として前記基本付加情報、前記応用付加情報及び前記画像情報の少なくとも1つの指定を入力する入力工程と、
    前記入力工程から入力された検索条件に合致する、指定された種類の前記付加情報を、前記記憶媒体から検索する検索工程と、
    前記検索工程で検索された付加情報に関連付けられているベクタデータのファイル名を、検索結果として表示する表示工程と
    をコンピュータに実行させることを特徴とするプログラム。
JP2008121646A 2008-05-07 2008-05-07 画像処理装置及びその制御方法、プログラム Expired - Fee Related JP5173566B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008121646A JP5173566B2 (ja) 2008-05-07 2008-05-07 画像処理装置及びその制御方法、プログラム
US12/426,916 US8224091B2 (en) 2008-05-07 2009-04-20 Image processing apparatus, method of controlling the same, and program for extracting information usable for a search
CN2009101376919A CN101577778B (zh) 2008-05-07 2009-05-07 图像处理装置及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008121646A JP5173566B2 (ja) 2008-05-07 2008-05-07 画像処理装置及びその制御方法、プログラム

Publications (3)

Publication Number Publication Date
JP2009271729A JP2009271729A (ja) 2009-11-19
JP2009271729A5 JP2009271729A5 (ja) 2011-06-02
JP5173566B2 true JP5173566B2 (ja) 2013-04-03

Family

ID=41266932

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008121646A Expired - Fee Related JP5173566B2 (ja) 2008-05-07 2008-05-07 画像処理装置及びその制御方法、プログラム

Country Status (3)

Country Link
US (1) US8224091B2 (ja)
JP (1) JP5173566B2 (ja)
CN (1) CN101577778B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5511450B2 (ja) * 2010-03-16 2014-06-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP6023879B2 (ja) * 2012-05-18 2016-11-09 アップル インコーポレイテッド 指紋センサ入力に基づくユーザインタフェースを操作するための機器、方法、及びグラフィカルユーザインタ−フェース
CN111489130B (zh) * 2020-06-28 2020-10-27 北京每日优鲜电子商务有限公司 一种基于物流平台的选仓、配送的协同配置方法及系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6668093B2 (en) * 2000-05-05 2003-12-23 Xerox Corporation Method for improving dictionary-based compression by ordering raster data
FR2825814B1 (fr) * 2001-06-07 2003-09-19 Commissariat Energie Atomique Procede de creation automatique d'une base de donnees images interrogeable par son contenu semantique
JP2004215067A (ja) * 2003-01-07 2004-07-29 Canon Inc デジタル機器
US7391917B2 (en) * 2003-02-13 2008-06-24 Canon Kabushiki Kaisha Image processing method
JP4181892B2 (ja) * 2003-02-21 2008-11-19 キヤノン株式会社 画像処理方法
JP4895340B2 (ja) * 2005-03-31 2012-03-14 キヤノン株式会社 情報処理装置およびその方法
JP2006331308A (ja) * 2005-05-30 2006-12-07 Canon Inc 画像処理装置及びその制御方法、プログラム
JP4861803B2 (ja) * 2006-12-01 2012-01-25 株式会社リコー 情報処理装置、画像処理装置、情報処理方法及び情報処理プログラム
US20090244559A1 (en) * 2008-03-25 2009-10-01 Kabushiki Kaisha Toshiba Image rasterizing apparatus and image rasterizing method

Also Published As

Publication number Publication date
US8224091B2 (en) 2012-07-17
CN101577778B (zh) 2012-01-11
JP2009271729A (ja) 2009-11-19
CN101577778A (zh) 2009-11-11
US20090279780A1 (en) 2009-11-12

Similar Documents

Publication Publication Date Title
JP4789516B2 (ja) 文書変換装置、文書変換方法並びに記憶媒体
JP5058904B2 (ja) 画像処理装置、画像処理方法、及びそのプログラム
JP5043715B2 (ja) 画像処理装置
JP4928373B2 (ja) 画像処理装置、画像処理方法、及び、画像処理プログラム
US8458139B2 (en) Image processing apparatus, control method thereof, program, and storage medium
US20080180707A1 (en) Image processing apparatus, image processing system, and image processing method
JP5188201B2 (ja) 画像処理装置及びその制御方法、プログラム、記憶媒体
US8185504B2 (en) Image processing apparatus and image processing method
JP5006764B2 (ja) 画像処理装置、画像処理方法、プログラム、および記憶媒体
JP5258313B2 (ja) 画像処理システム、画像処理方法、及びプログラム
US8259330B2 (en) Output efficiency of printer forming image by interpreting PDL and performing output by using print engine
JP2009165025A (ja) 画像処理システム、画像処理システムの制御方法、及び制御プログラム
JP5173566B2 (ja) 画像処理装置及びその制御方法、プログラム
US8264744B2 (en) Image processing apparatus, image processing method, and program to execute image processing method
JP5084543B2 (ja) 画像処理装置及び画像処理方法
JP5036636B2 (ja) 画像処理装置、方法、及び、プログラム
JP2009188677A (ja) 画像処理装置及びその処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121227

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160111

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees