JP5359498B2 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP5359498B2
JP5359498B2 JP2009099598A JP2009099598A JP5359498B2 JP 5359498 B2 JP5359498 B2 JP 5359498B2 JP 2009099598 A JP2009099598 A JP 2009099598A JP 2009099598 A JP2009099598 A JP 2009099598A JP 5359498 B2 JP5359498 B2 JP 5359498B2
Authority
JP
Japan
Prior art keywords
image data
file
unit
display
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009099598A
Other languages
English (en)
Other versions
JP2010016800A (ja
Inventor
道隆 福田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2009099598A priority Critical patent/JP5359498B2/ja
Priority to US12/477,283 priority patent/US8207979B2/en
Publication of JP2010016800A publication Critical patent/JP2010016800A/ja
Application granted granted Critical
Publication of JP5359498B2 publication Critical patent/JP5359498B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/006Details of the interface to the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/393Arrangements for updating the contents of the bit-mapped memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/395Arrangements specially adapted for transferring the contents of the bit-mapped memory to the screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2350/00Solving problems of bandwidth in display systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/325Modified version of the image, e.g. part of the image, image reduced in size or resolution, thumbnail or screennail
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3274Storage or retrieval of prestored additional information
    • H04N2201/3277The additional information being stored in the same storage device as the image data

Description

本発明は、蓄積装置に蓄積されている画像データを表示装置へ転送して表示する画像処理装置、画像処理方法及び画像処理プログラムに関する。
従来から、画像処理装置において多量の画像データを表示させてブラウジングする場合に、例えば画像データに圧縮処理を施してファイルサイズを小さくした画像データを蓄積し、蓄積された画像データを表示部に表示するという技術がある(特許文献1、2参照)。
圧縮処理は、一括又はブロック単位で画像データを符号化するものであり、画像のビットストリームを生成する。そのような画像を表すビットストリームのビットサイズは、非圧縮フォーマットで画像を表すために必要なビットサイズと比較すれば、小さいことが多い。
圧縮処理の一つの利点は、圧縮画像データがRAM、ディスク、磁気テープ等の記憶媒体上で物理的に占有される記憶空間が非圧縮画像データに比べて少ないことにある。また、画像伝送の点においても圧縮処理は有効である。圧縮の結果、減少したビットストリームの方が非圧縮フォーマットの画像よりも短時間で伝送できる。
しかし、ファイルサイズの小さい画像データのみ蓄積されていると、表示時に伸張処理を行う必要があるため、画像データの表示時間がかかることにより画像データのブラウジング速度が低下するという問題点がある。
本発明は、このような問題を解決するためになされたものであり、画像データのブラウジング速度を向上させることを可能にする画像処理装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
本発明は、画像データを表示する画像処理装置において、前記画像データと同一の内容のデータであってファイルサイズが所定サイズより小さい第1画像データと、前記画像データと同一の内容のデータであって前記所定サイズよりファイルサイズの大きい第2画像データとを蓄積する蓄積手段と、前記蓄積手段に蓄積されている前記第1画像データと前記第2画像データのうち、表示時間が短い方の画像データを選択するファイル選択手段と、選択された前記画像データを表示する表示手段と、前記画像データから前記第1画像データと前記第2画像データとを生成して前記蓄積手段に蓄積し、さらに、前記表示手段に前記第1画像データを表示するまでの第1表示時間と前記表示手段に前記第2画像データを表示するまでの第2表示時間とを算出し、前記第1表示時間と前記第2表示時間のうちで表示時間の短い方の画像データを選択する旨を示す選択情報を生成して、生成された前記選択情報を蓄積手段に蓄積する蓄積処理手段と、を備えることを特徴とする。
本発明によれば、画像データと同一の内容のデータであって所定サイズよりファイルサイズの大きな画像データと、画像データと同一の内容のデータであって所定サイズよりファイルサイズの小さい画像データを蓄積して、画像表示時間が短いほうの画像データを選択することにより、画像データのブラウジング速度の向上を可能にするという効果を奏する。
図1は、第1の実施の形態の画像処理装置のシステム構成を示す図である。 図2は、図1のASICの内部構成を示すブロック図である。 図3は、図1のHDDとMEM−Pに蓄積されている画像データを読み出し、操作表示部のLCDに表示するための構成を示す機能ブロック図である。 図4は、選択情報生成処理のフローチャートである。 図5は、図3の表示制御部が実行するファイル取得処理のフローチャートである。 図6は、図3のファイル選択部が実行するファイル選択処理のフローチャートである。 図7は、CPU性能とインターフェース性能による画像サイズの小さいファイルの作り方の一例を示す説明図である。 図8は、第2の実施の形態の画像処理装置のハードウェア構成を示すブロック図である。 図9は、第2の実施の形態の画像処理装置のソフトウェア構成を示すブロック図である。 図10は、QH構造体の説明図である。 図11は、QH構造体の各情報位置と処理順の一例を示す説明図である。 図12は、通信負荷検出フローの処理手順を示すフローチャートである。 図13は、通信負荷が大でありファイルサイズ小が選択された場合に、ファイルサイズ小を送出した時の調停処理を示すフローチャートである。
以下、本発明を実施するための最良の形態について、図面を参照しながら詳細に説明する。
(第1の実施の形態)
第1の実施の形態では、所定サイズよりファイルサイズの大きな画像データを非圧縮ファイル、所定サイズよりファイルサイズの小さい画像データを圧縮ファイルとして説明する。
図1は、第1の実施の形態の画像処理装置のシステム構成を示す図である。本図に示すように、この画像処理装置は、コントローラボード1とエンジン部(Engine)12とをPCI(Peripheral Component Interconnect)バスで接続した構成となる。コントローラボード1は、画像処理装置全体の制御と描画、通信、図示しない操作部からの入力を制御するコントローラである。エンジン部12は、PCIバスに接続可能なプリンタエンジン等であり、たとえば白黒プロッタ、1ドラムカラープロッタ、4ドラムカラープロッタ、スキャナまたはファックスユニット等である。なお、このエンジン部12には、プロッタ等のいわゆるエンジン部分に加えて、誤差拡散やガンマ変換等の画像処理部分が含まれる。
コントローラボード1は、CPU3と、システムメモリ(MEM−P)4と、ローカルメモリ(MEM−C)5と、ASIC(Application Specific Integrated Circuit)2と、ハードディスクドライブ(HDD)6と、PHY(物理層チップ)7を有した構成となる。
CPU3は、画像処理装置の全体制御をおこなうものであり、MEM−P4等からなるチップセットを有し、このチップセットを介して他の機器と接続される。
MEM−P4は、プログラムやデータの格納用メモリ、プログラムやデータの展開用メモリ、プリンタの描画用メモリ等として用いるシステムメモリであり、ROM(Read Only Memory)と、RAM(Random Access Memory)とからなる。ROMは、プログラムやデータの格納用メモリとして用いる読み出し専用のメモリである。また、RAMは、プログラムやデータの展開用メモリ、プリンタの描画用メモリ等として用いる書き込みおよび読み出し可能なメモリである。
ASIC2は、画像処理用のハードウェア要素を有する画像処理用途向けのIC(Integrated Circuit)であり、PCIバス、HDD6およびMEM−C5をそれぞれ接続するブリッジの役割を有する。このASIC2は、PCIターゲットと、ASIC2の中核をなすアービタ(ARB)と、MEM−C5を制御するメモリコントローラと、ハードウェアロジック等により画像データの回転等をおこなう複数のDMAC(Direct Memory Access Controller)と、エンジン部12との間でPCIバスを介したデータ転送をおこなうPCIユニットとからなる。このASIC2には、PCIバスを介してFCU(Fax Control Unit)9、USB(Universal Serial Bus)インターフェース10、IEEE1394(the Institute of Electrical and Electronics Engineers 1394)インターフェース11等が接続される。操作表示部8はASIC2に直接接続されている。
MEM−C5は、コピー用画像バッファ、符号バッファとして用いるローカルメモリであり、HDD(Hard Disk Drive)6は、画像データの蓄積、プログラムの蓄積、フォントデータの蓄積、フォームの蓄積を行うためのストレージである。
図2はASIC2の内部構成を示すブロック図である。ASIC2は、SDRAMI/F21と、CPUI/F22と、ローカルバスI/F23と、PCII/F24と、I/O25と、OPEI/F26と、HDDI/F27と、MAC28と、IEEE1284I/F29とを内蔵している。
SDRAMI/F21は、SDRAMのインターフェースであり、CPUI/F22は、CPU3のインターフェースである。また、ローカルバスI/F23は、ローカルバスのインターフェースであり、PCII/F24は、PCIインターフェースである。そして、I/O25は、画像処理装置のI/O制御を行う。また、OPEI/F26は、オペレーションパネルのインターフェースであり、HDDI/F27は、HDDのインターフェースである。そして、MAC28は、メディアアクセスコントロールチップであり、IEEE1284I/F29は、IEEE1284のインターフェースである。
図3は、図1のHDD6やMEM−P4に蓄積されている画像データを読み出し、操作表示部8のLCDに表示するための構成を示す機能ブロック図である。
この図において、表示部41はLCDパネルやその駆動回路等のハードウェアである。表示制御部42は、表示プレイヤー等のアプリケーションであり、図1のMEM−C5に格納されている。第1I/F部43は、第2I/F47と接続するためのI/Fである。これらが第1の実施の形態に係る画像表示装置であり、41〜43の順に上位となるレイヤー構造を取る。
また、蓄積部44は、データファイル等を格納するハードウェアであり、図1のHDD6やMEM−P4に相当する。具体的には、データファイルは、圧縮ファイルや非圧縮ファイルである。
蓄積処理部45は、蓄積部44に画像データを蓄積する。また、画像データに対して、非圧縮ファイルと、圧縮ファイルとを蓄積する。蓄積する場合、それらのフォーマットは決められている。例えば非圧縮フォーマットのBMPファイルであったり、圧縮フォーマットのJPEGファイル等であったり、複数のフォーマットが許可される。なお、圧縮ファイルを伸張して表示部41に表示する画像データと、非圧縮ファイルを表示部41に表示する画像データは、同一の内容のデータを示す。
また、蓄積処理部45は、圧縮ファイルと非圧縮ファイルを表示部41に表示するまでの表示時間を算出し、いずれか短い方のファイルを選択するための情報である選択情報を生成する。選択情報は、具体的には、圧縮ファイルを選択する旨を示す圧縮フラグと、非圧縮ファイルを選択する旨を示す非圧縮フラグの情報を示す。圧縮フラグがONの場合に、圧縮ファイルを選択し、また、非圧縮フラグがONの場合には、非圧縮ファイルを選択する。そして、蓄積処理部45は、画像データと、圧縮ファイルと、非圧縮ファイルと、選択情報と、を関連付けて蓄積部44に蓄積する。なお、表示時間の算出方法は後述する。
この選択情報は、表示制御部42からのファイル転送要求に応じて、その都度生成しても良いし、転送要求前に行ってもよい。本実施の形態では、蓄積処理部45は、上述した画像の部品を蓄積部44に登録する際に選択情報を生成して登録することにする。
ファイル選択部46は、第2I/F部47からの取得ファイル要求に従って、圧縮ファイルと非圧縮ファイルのうち、選択情報で示されたファイルを選択するソフトウェアであり、図1のMEM−C5に格納されている。
第2I/F部47は、I/F48と接続するためのI/Fである。これらが第1の実施の形態に係る画像蓄積装置であり、44〜47の順に上位となるレイヤー構造を取る。第1I/F部43と、第2I/F部47との間はI/F48により接続されている。
図4は、ファイル選択情報生成処理のフローチャートである。この処理は蓄積処理部45が実行する。まず、蓄積処理部45が、蓄積部44から読み出された非圧縮ファイルが表示部41で表示されるまでにかかる時間を表示時間として算出する(ステップS1)。そして、蓄積処理部45は、蓄積部44から読み出された圧縮ファイルが表示部41で表示されるまでにかかる時間を表示時間として算出する(ステップS2)。
この表示時間は、非圧縮ファイルの場合はファイル転送時間のことであり、圧縮ファイルの場合はファイル転送時間とファイル伸張時間との和のことである。ここで、ファイル転送時間は、ファイル容量をI/F48の通信速度で割った値である。また、ファイル伸張時間は、ファイル容量を表示制御部42のファイル伸張速度で割った値である。また、I/F48の通信速度と表示制御部42のファイル伸張速度は予め決められているので、通信速度とファイル伸張速度を、コントローラボード1の不揮発性メモリ(図示せず)に保存する。
下記の表1を参照しながら、表示時間の算出の一例を示す。
Figure 0005359498
ある画像の圧縮ファイル、非圧縮ファイルの容量がそれぞれ10KB、100KB、I/F48の通信速度が8MB/sec、表示制御部42のファイル伸張速度が300KB/secの場合、ファイル転送時間は、圧縮ファイルの場合は1.25msec(10KB÷8MB/sec)であり、非圧縮ファイルの場合は12.5msec(100KB÷8MB/sec)である。また、圧縮ファイルのファイル伸張時間は33.33msec(10KB÷300KB/sec)である。従って、「転送時間+ファイル伸張時間」は、圧縮ファイルが34.58msec、非圧縮ファイルが12.5msecとなる。
図4の説明に戻る。蓄積処理部45は、非圧縮ファイルと圧縮ファイルのそれぞれの表示までにかかる時間を算出した後、選択情報を蓄積部44に書き込む(ステップS3〜S5)。具体的には、蓄積処理部45は、非圧縮ファイルと圧縮ファイルの表示時間の速い方にフラグを立てる。つまり、非圧縮ファイル使用時の時間が圧縮ファイル使用時の時間より短ければ(ステップS3:Yes)、蓄積処理部45は、非圧縮ファイルを選択する旨の選択情報を書き込む(ステップS4)。具体的には、蓄積処理部45は、非圧縮フラグを立てる(非圧縮フラグをONにする)。また、圧縮ファイル使用時の時間が非圧縮ファイル使用時の時間より短ければ(ステップS3:No)、蓄積処理部45は、圧縮ファイルを選択する旨の選択情報を書き込む(ステップS5)。具体的には、蓄積処理部45は、圧縮フラグを立てる(圧縮ファイルをONにする)。表1の場合、蓄積処理部45は非圧縮フラグを立てることになる(非圧縮フラグをONすることになる)。
次に、図5と図6のフローチャートを参照しながら、表示制御部42が、蓄積部44に蓄積されている任意の画像の部品を呼び出して表示するときの流れを説明する。ここで、図5は表示制御部42のファイル取得処理であり、図6はファイル選択部46のファイル選択処理である。
まず、図5において、表示制御部42が、第1I/F部43に対し、任意の画像データとその選択情報の取得要求を行う。この取得要求は、I/F48を通して第2I/F部47に届く。
そして、図6において、第2I/F部47は、ファイル選択部46に画像データとその選択情報の問い合わせを行い、ファイル選択部46は、問い合わせを受けることにより、そのファイルの選択情報(非圧縮フラグ又は圧縮フラグ)を蓄積部44から読み込み(ステップS21)、次に読み込んだ選択情報に従って、非圧縮ファイル又は圧縮ファイルを蓄積部44から読み込む(ステップS22)。そして、ファイル選択部46は、そのファイルと選択情報を第2I/F部47に送出して(ステップS23)、処理を終える。
第2I/F部47は、受け取ったファイルと選択情報をI/F48を介して第1I/F部43へ送る。図5のステップS11に示すように、表示制御部42は、第1I/F部43に対し、任意の画像データとその選択情報の取得要求を送出した後、第1I/F部43から、それらが来るのを待機する。表示制御部42は、任意のファイルとその選択情報を取得すると(ステップS11:Yes)、取得した選択情報に基づいて、取得したファイルが圧縮ファイルか非圧縮ファイルかを識別する。取得したファイルが、圧縮ファイルであれば伸張処理を行った後に表示データに変換し、取得したファイルが非圧縮ファイルであればそのままに表示データに変換して(ステップS12)、取得したファイルを表示部41に渡す(ステップS13)。
画像処理装置によっては、商品ラインアップやオプション構成によって構成が変更される場合がある。このとき、例えば表示部41が変更されると、ハードウェアの処理性能が異なるため、表1のファイル選択処理計算値が変更になる。そこで、蓄積処理部45は、表示部41のハードウェアが変更された場合、ハードウェア変更を検出して、図4に示すフローを再度実行することにより選択情報を更新する。検出方法は、例えば表示部41の変更と合わせてソフトウェアを変更して検出することなどが考えられる。また、画像処理装置が、何らかのハード的な信号(例えば、GIOポートの信号)を検出することも可能である。これに合わせて、表示制御部42の性能であるファイル伸張時間を、変更したソフトウェアから取得することなどが考えられる。
以上説明したように第1の実施の形態の実施形態の画像処理装置は、表示対象画像の圧縮ファイルと非圧縮ファイルの2つを蓄積し、表示する場合に、圧縮ファイルと非圧縮ファイルのそれぞれのファイル容量と、転送時間と、圧縮ファイルの伸張時間とを参照して短時間で表示できる方を選択することができる。このため、ファイル容量とハードウェアの性能に応じて、画像データをより短い時間で表示することができる。
さらに、表示制御部42は、任意の画像データを取得する場合、画像データとその選択情報の要求を行い、取得した選択情報に基づいて、圧縮/非圧縮どちらのファイルを処理すればよいかを、ファイル選択部46から通知される仕組みを設けたことにより、表示制御部42は、ファイルの種類とハードウェア性能に応じて、より適した表示制御が可能となる。
また、蓄積処理部45は、任意の画像の圧縮ファイルと非圧縮ファイルを蓄積部44に登録した時に、ファイルの選択情報の生成を行うことにより、ファイル選択部46は、ファイル取得要求があった際に、即時に圧縮ファイルと非圧縮ファイルのどちらを選択すればよいかを判断することができる。よって、表示制御部42は、要求したファイルを迅速に取得することができる。
さらに、表示部41のハードウェアを変更した時、それを検出し、圧縮/非圧縮それぞれの任意のファイル容量、転送時間、圧縮ファイルの伸張時間を基に、ファイルの転送から表示までにかかる時間を再計算して、ファイルの選択情報を再生成することで、ハードウェアの変更にかかわらず、その性能に応じた最適な表示(高速表示)が可能となる。
さらに、表示部41のハードウェアを変更した場合、CPU性能とインターフェース性能に応じて、画像サイズを小さくしたり、JPEG圧縮を行うことで、画像データの最適な表示(高速表示)が可能となる。図7は、CPU性能とインターフェース性能による画像サイズの小さいファイル(以下、「画像サイズ小」という)の生成方法の一例を示す説明図である。
CPUの性能が所定のクロック周波数よりも高く、インターフェースの性能が所定の通信速度よりも高い場合は、画像サイズ小(以下、「画像サイズ小(1)」という)を生成するか、または、圧縮率の高いJPEGファイル(以下、「JPEG圧縮(2)」という)を生成する。次に、CPUの性能が所定のクロック周波数よりも高く、インターフェースの性能が所定の通信速度よりも低い場合は、画像サイズ小(以下、「画像サイズ小(2)」という)を生成するか、または、圧縮率の高いJPEGファイル(以下、「JPEG圧縮(1)」という)を生成する。
また、CPUの性能が所定のクロック周波数よりも低く、インターフェースの性能が所定の通信速度よりも高い場合は、画像サイズ小(以下、「画像サイズ小(3)」という)を生成する。次に、CPUの性能が所定のクロック周波数よりも低く、インターフェースの性能が所定の通信速度よりも低い場合は、画像サイズが小さいファイル(以下、「画像サイズ小(4)」という)を生成する。
ここで、画像サイズ小(1)は、画像サイズ小(2)よりもファイルサイズが小さく、画像サイズ小(2)は、画像サイズ小(3)よりもファイルサイズが小さく、さらに、画像サイズ小(3)は、画像サイズ小(4)よりもファイルサイズが小さい。また、JPEG圧縮(1)はJPEG圧縮(2)よりも圧縮率が高い。
このように、画像サイズ小を生成することで、CPU性能とインターフェース性能に応じた画像データの最適な表示(高速表示)が可能となる。
また、第1の実施の形態では、所定サイズよりファイルサイズの大きな画像データを非圧縮ファイル、所定サイズよりファイルサイズの小さい画像データを圧縮ファイルとして説明したが、これに限るものではなく、所定の圧縮率より小さい圧縮ファイルと、所定の圧縮率より大きい圧縮ファイルとを適用するようにしても良い。
(第2の実施の形態)
上述した第1の実施の形態においては、表示制御部42からのファイル取得の要求があった場合、蓄積処理部45は、予め、選択するファイルが、選択情報として生成して登録されている。そして、登録された選択情報を参照し、ファイルを選択するという静的な処理を行う。これに対して、第2の実施の形態では、蓄積処理部45は、表示制御部42からのファイル取得の要求があったタイミングでの通信負荷を検出し、その通信負荷に応じて何れかのファイルを選択するという動的な処理を行う。
また、第1の実施の形態では、蓄積部44に蓄積されている画像データを、圧縮ファイルと非圧縮ファイルとしたが、第2の実施の形態では、所定サイズよりもファイルサイズが所定サイズよりも大きな画像データをファイルサイズ大として説明する。また、ファイルサイズが所定サイズよりも小さな画像データをファイルサイズ小として説明する。
図8は、第2の実施の形態の画像処理装置のハードウェア構成を示すブロック図である。図8に示すように、第2の実施の形態の画像処理装置は、操作部ユニット800と、システムコントローラ811と、操作部ユニット800とシステムコントローラ811とを接続してデータ授受を行うI/F48を主に備えている。
ここで、システムコントローラ811は、操作部ユニット800へ表示するための画像コンテンツを備えて操作部ユニット800へ転送し、スキャナやプリンタの画像ハンドリングや、ネットワークのI/O制御等を行う。
また、システムコントローラ811は、CPU812と、USBコントローラ813と、メモリ814と、ASIC815と、HDD(ハードディスク)816とを主に備えている。
また、操作部ユニット800は、LCD801と、Key802と、操作表示部コントローラ803と、メモリ807と、Hubコントローラ804と、USB−Host808と、ワイヤレスLANコントローラ805と、ワイヤレスLAN809と、メディアコントローラ806と、メディア810を主に備えている。
操作部ユニット800は、利用者により操作が行われるユニットである。LCD801は表示部であり、Key802は利用者の操作を受け付けるキーである。操作表示部コントローラ803は、LCD801の表示制御を行う。メモリ807は、表示するファイルを一時的に格納する。Hubコントローラ804は、USBコントローラ813との通信を行う。また、USB−Host808は、各デバイスのUSBホストコネクタである。ワイヤレスLAN809は無線通信でデータの送受信をするLANであり、ワイヤレスLANコントローラ805は、ワイヤレスLANのコントローラである。また、メディア810は、フロッピー(登録商標)ディスクやCD−ROM等のデータ記録媒体であり、メディアコントローラ806は、メディアのコントローラである。
画像コンテンツはHDD816に予め格納されており、操作部ユニット800の表示制御を行う操作表示部コントローラ803からの要求に応じて、CPU812が、HDD816より任意のファイルを読み出して、表示制御を行う操作表示部コントローラ803へ転送する。転送されたファイルは、表示制御を行う操作表示部コントローラ803を介してメモリ807に格納され、これを、操作表示部コントローラ803がLCD801へ出力する。これにより、任意の画像コンテンツが操作部ユニット800へ表示される。
また、図9は、第2の実施の形態の画像処理装置の機能的構成を示すブロック図である。図9に示すように、第2の実施の形態の画像処理装置は、操作部ユニット800とシステムコントローラ811を備える。
操作部ユニット800は、第1I/F部43と、表示制御部42と、表示部41と、メディア制御部901と、メディア810と、ワイヤレスLAN制御部903と、ワイヤレスLAN809と、USB−Host808とを主に備えている。
また、システムコントローラ811は、第2I/F部47と、ファイル選択部46と、蓄積処理部45と、蓄積部44と、通信負荷判断部908と、USB通信制御部907と、CPU812と、メモリ814とを主に備えている。
ここで、第1I/F部43と、表示制御部42と、表示部41と、第2I/F部47と、蓄積処理部45と、蓄積部44と、I/F48の機能および構成は、第1の実施の形態と同様であるため、説明を省略する。
また、第2の実施の形態にかかるファイル選択部46は、通信負荷判断部908からの通信負荷の大小に応じて、ファイル小かファイル大のいずれかを選択する。
メディア制御部901はメディアコントローラ806で実行されるものであり、USB通信制御部907と通信を行い、かつ、メディア810との通信制御を行う。また、ワイヤレスLAN制御部903はワイヤレスLANコントローラ805で実行されるものであり、USB通信制御部907と通信を行い、かつ、ワイヤレスLAN809との通信制御を行う。また、USB−Host808はUSB通信制御部907と通信を行う。
また、USB通信制御部907は、USBホストコントローラとして、USBの通信制御を行う。各デバイスが接続されて、各デバイスのエンドポイントに1対1で対応するQueue Headと呼ばれる構造体をメモリ814上に作成する。
図10は、Queue Head構造体(以下、「QH構造体」という)の説明図である。図10に示すように、QH構造体には、Queue Head Horizontal Link Pointer(以下、「QHHLP」という)や、Transfer Overlay情報(以下、「TO情報」という)や、Transfer Descriptor(以下、「TD」という)等で構成される。
ここで、QHHLPは、USB通信制御部907が次にQH構造体を処理するアドレス情報である。また、TO情報は、転送要求有無、転送サイズ、転送データ格納のアドレス情報である。また、TDは、TO情報の先のアドレス情報である。
図11は、QH構造体の各情報位置と処理順の一例を示す説明図である。USB通信制御部907は、このQH構造体を次々とポーリングして、TDがあるかどうかを確認する。
QHHLPのinvalidビット(t−bit)が立っている場合は、USB通信制御部907は、そのQH構造体は無視して次のQH構造体を処理する。TDがない場合は、処理しなくて良いと判断し、USB通信制御部907は、次にQH構造体を処理するアドレス情報を参照して、次のQH構造体を処理する。TDがある場合は、TDの先に示すTO情報に従い、USB通信制御部907は、任意のエンドポイントと通信処理を行う。通信が終了した場合、USB通信制御部907は、次にQH構造体を処理するアドレス情報を参照して、次のQH構造体を処理する。
また、通信負荷判断部908は、USB通信制御部907により利用されるQH構造体より、通信負荷を判断する。つまり、通信負荷判断部908は、計測された通信速度が所定の通信速度よりも高い場合は、通信負荷が大きいと判断し、計測された通信速度が所定の通信速度よりも低い場合は、通信負荷が小さいと判断する。ここで、通信速度は、指定した単位時間あたりのデータ転送サイズに応じて定まるので、通信速度と所定の通信速度との大小は、TO情報から読み取ったデータ転送サイズと所定のデータ転送サイズとの大小により判断する。
通信負荷判断部908は、ファイル選択部46が表示制御部42から画像データの取得要求を受けることによって、通信負荷判断の要求を受ける。図12は、通信負荷判断部908が通信負荷検出フローの処理を行う手順を示すフローチャートである。
まず、通信負荷判断部908は、ファイル選択部46からの通信負荷の判断要求のタイミングで、TO情報を作成し、メモリ814の任意アドレスに記憶する(ステップS31)。QH構造体の処理が終了していないと判断した場合(ステップS32:No)、通信負荷判断部908は、QH構造体の処理が終了するまで待ち状態になる。
また、QH構造体の処理が終了していると判断した場合(ステップS32:Yes)、通信負荷判断部908は、指定した単位時間あたりのデータ転送サイズを計測するため、転送サイズ情報を加算する(ステップS33)。次に、通信負荷判断部908は、タイマ割り込みがあるか否か判断する。このタイマ割り込みは、指定した単位時間毎に行われる。タイマ割り込みがないと判断した場合(ステップS34:No)、通信負荷判断部908は、ステップS32に戻り、タイマ割り込みがあるまで待つ。
また、タイマ割り込みがあると判断した場合(ステップS34:Yes)、通信負荷判断部908は、転送サイズが所定サイズよりも大きいか否かを判断する(ステップS35)。
ここで、転送サイズが所定サイズよりも大きいと判断した場合(ステップS35:Yes)、通信負荷判断部908は、通信負荷が大であると判断する(ステップS36)。この情報を蓄積処理部45に通知することで、ファイル選択部46は、ファイルサイズ小を選択する。
また、転送サイズが所定サイズよりも小さいと判断した場合(ステップS35:No)、通信負荷判断部908は、通信負荷が小であると判断する(ステップS37)。この情報を蓄積処理部45に通知することで、ファイル選択部46は、ファイルサイズ大を選択する。
これにより、通信負荷に応じて、ファイルサイズ小とファイルサイズ大のいずれかを選択し、インターフェース部を経由させてデータ授受を行い、表示部に送出することにより、ファイルサイズ大か、もしくはファイルサイズ小の画像データを、より短い時間で表示を行うことができる。
また、通信負荷が大であると判断し、ファイルサイズ小を選択した場合でも、なお通信負荷が大きい場合、アービタによる調停処理を行うことで、USBコントローラ813に対してLCD801以外のワイヤレスLANコントローラ805やメディアコントローラ806やUSB−Host808との通信を停止する。それにより、USBコントローラ813から操作表示部コントローラ803への通信速度を高めることが出来るため、USBコントローラ813から操作表示部コントローラ803へファイルサイズ小を送出し表示するまでの前記表示時間をさらに短縮することができる。
図13は、通信負荷検出処理により、通信負荷が大でありファイルサイズ小が選択された場合に、ファイルサイズ小を操作部ユニット側に送出した時の調停処理の手順を示すフローチャートである。
まず、通信負荷判断部908は、ファイルサイズ小を選択し送出することで通信を行った場合の通信負荷検出を行い、通信負荷が大であるか否かを判断する(ステップS41)。ここで、通信負荷が大であると判断した場合(ステップS41:Yes)、通信負荷判断部908は、転送要求の調停処理をONにすることで、特定の転送要求を優先的に発行する(ステップS42)。つまり、通信負荷判断部908は、TDをQH構造体に発行する調停処理を行い、操作表示部コントローラ803以外のデバイスコントローラとの通信を停止することで、USBコントローラ813から操作表示部コントローラ803への通信優先順位を上げる。
また、通信負荷が大でないと判断した場合(ステップS41:No)、通信負荷判断部908は、要求順に転送要求を発行する(ステップS43)。つまり、通信負荷判断部908は、TDをQH構造体に発行する調停処理を行わない。
そして、通信負荷判断部908は、QH構造体へTDライトが終了したか否かを判断する(ステップS44)。QH構造体へTDライトが終了したと判断した場合(ステップS44:Yes)、通信負荷判断部908は、ステップS41に戻る。また、QH構造体へTDライトが終了していないと判断した場合(ステップS44:No)、通信負荷判断部908は、TDライトが終了するまで、待ち状態になる。
この処理により、通信負荷判断部908は、通信負荷が大であると判断してファイルサイズ小を選択した場合に通信負荷が大きい場合、調停処理を行うことで、ファイルサイズ小を表示部に送出する時間を更に短くすることができる。
このように第2の実施の形態にかかる画像処理装置によれば、ファイルサイズ大とファイルサイズ小の2種類を保持し、通信負荷判断部908により通信負荷が高いと検出した場合のみ、ファイルサイズ小を選択して、操作部ユニットへ送出することが可能になるため、通信負荷が多い状態でも画像表示の即時性を向上させることができる。また最悪の負荷条件を前提とした従来のシステムと比べ、通信帯域要求値が緩和されるため、システムを構築するための製造コストを下げることが可能となる。さらにUSB通信制御部907が調停処理を行うことにより、通信負荷が高いと検出した場合のみ、一時的に、画像表示以外の拡張先への通信優先順位を下げることが可能になる。このため、USB通信制御部907は、通信負荷が多い状態でも画像表示の即時性をより向上させることができる。よって、画像データのブラウジング速度を向上させることができる。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。本発明の実施態様は、以上に説明したような特定の実施形態に限定されるものではない。
41 表示部
42 表示制御部
43 第1I/F部
44 蓄積部
45 蓄積処理部
46 ファイル選択部
47 第2I/F部
48 I/F
800 操作部ユニット
801 LCD
802 Key
803 操作表示部コントローラ
804 Hub
805 ワイヤレスLANコントローラ
806 メディアコントローラ
807 メモリ
808 USB−Host
809 ワイヤレスLAN
810 メディア
811 システムコントローラ
812 CPU
813 USBコントローラ
814 メモリ
815 ASIC
816 HDD
901 メディア制御部
903 ワイヤレスLAN制御部
907 USB通信制御部
908 通信負荷判断部
特開平5−191762号公報 特開平6−171151号公報

Claims (8)

  1. 画像データを表示する画像処理装置において、
    前記画像データと同一の内容のデータであってファイルサイズが所定サイズより小さい第1画像データと、前記画像データと同一の内容のデータであって前記所定サイズよりファイルサイズの大きい第2画像データとを蓄積する蓄積手段と、
    前記蓄積手段に蓄積されている前記第1画像データと前記第2画像データのうち、表示時間が短い方の画像データを選択するファイル選択手段と、
    選択された前記画像データを表示する表示手段と、
    前記画像データから前記第1画像データと前記第2画像データとを生成して前記蓄積手段に蓄積し、さらに、前記表示手段に前記第1画像データを表示するまでの第1表示時間と前記表示手段に前記第2画像データを表示するまでの第2表示時間とを算出し、前記第1表示時間と前記第2表示時間のうちで表示時間の短い方の画像データを選択する旨を示す選択情報を生成して、生成された前記選択情報を蓄積手段に蓄積する蓄積処理手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記ファイル選択手段は、前記第1画像データと前記第2画像データのうち、前記選択情報で示された画像データを選択して、選択された画像データを前記表示手段に送出すること
    を特徴とする請求項に記載の画像処理装置。
  3. 前記画像処理装置の通信制御を行う通信制御手段と、
    通信速度を計測して、前記通信速度が所定の通信速度よりも高いときは通信負荷を大と判断し、前記通信速度が前記所定の通信速度よりも低いときは通信負荷を小と判断する通信負荷判断手段と
    をさらに備え、
    前記ファイル選択手段は、前記通信負荷判断手段により通信負荷が大と判断された場合は、前記第1画像データを選択し、また、通信負荷が小と判断された場合は、前記第2画像データを選択すること
    を特徴とする請求項または請求項に記載の画像処理装置。
  4. 前記通信制御手段は、前記画像処理装置のシステムコントローラと前記システムコントローラの通信先であるデバイスとの通信処理の制御を実行し、さらに、前記通信負荷判断手段によって通信負荷が大と判断された場合に、前記表示手段以外のデバイスと前記システムコントローラとの通信処理を一時的に停止して前記システムコントローラから前記表示手段へ前記画像データを送出し表示するまでの前記表示時間をさらに短縮すること
    を特徴とする請求項に記載の画像処理装置。
  5. 前記蓄積処理手段は、前記画像処理装置のCPUとインターフェースの性能が変更されたタイミングで、前記第2画像データから前記第1画像データを生成して前記第1画像データと前記第2画像データを前記蓄積手段に蓄積すること
    を特徴とする請求項のいずれか1つに記載の画像処理装置。
  6. 前記蓄積処理手段は、前記第1画像データを圧縮画像データとして、また、前記第2画像データを非圧縮画像データとして生成して、前記圧縮画像データと前記非圧縮画像データを前記蓄積手段に蓄積すること
    を特徴とする請求項のいずれか1つに記載の画像処理装置。
  7. 画像処理装置で実行される画像処理方法において、
    前記画像処理装置は、前記画像データと同一の内容のデータであってファイルサイズが所定サイズより小さい第1画像データと、前記画像データと同一の内容のデータであって前記所定サイズよりファイルサイズの大きい第2画像データとを蓄積する蓄積手段と、
    前記画像データを表示する表示手段と、
    を備え、
    前記蓄積手段に蓄積されている前記第1画像データと前記第2画像データのうち、表示時間が短い方の画像データを選択するファイル選択ステップと、
    前記画像データから前記第1画像データと前記第2画像データとを生成して前記蓄積手段に蓄積し、さらに、前記表示手段に前記第1画像データを表示するまでの第1表示時間と前記表示手段に前記第2画像データを表示するまでの第2表示時間とを算出し、前記第1表示時間と前記第2表示時間のうちで表示時間の短い方の画像データを選択する旨を示す選択情報を生成して、生成された前記選択情報を蓄積手段に蓄積する蓄積処理ステップと、
    を含むことを特徴とする画像処理方法。
  8. 請求項に記載された画像データを表示する画像処理方法をコンピュータに実行させるための画像処理プログラム。
JP2009099598A 2008-06-06 2009-04-16 画像処理装置、画像処理方法及び画像処理プログラム Expired - Fee Related JP5359498B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009099598A JP5359498B2 (ja) 2008-06-06 2009-04-16 画像処理装置、画像処理方法及び画像処理プログラム
US12/477,283 US8207979B2 (en) 2008-06-06 2009-06-03 Image processing apparatus, image processing method, and computer program product

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008149361 2008-06-06
JP2008149361 2008-06-06
JP2009099598A JP5359498B2 (ja) 2008-06-06 2009-04-16 画像処理装置、画像処理方法及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2010016800A JP2010016800A (ja) 2010-01-21
JP5359498B2 true JP5359498B2 (ja) 2013-12-04

Family

ID=41399901

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009099598A Expired - Fee Related JP5359498B2 (ja) 2008-06-06 2009-04-16 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (2)

Country Link
US (1) US8207979B2 (ja)
JP (1) JP5359498B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5634304B2 (ja) * 2011-03-07 2014-12-03 三菱電機ビルテクノサービス株式会社 インターネットを利用するビル設備管理システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0651389B2 (ja) 1989-11-10 1994-07-06 ソマール株式会社 マット化フィルム
JPH05191762A (ja) 1991-02-05 1993-07-30 Ricoh Co Ltd 画像情報検索装置
JP3153347B2 (ja) 1992-06-19 2001-04-09 株式会社リコー 画像記録装置の制御方法
JPH06171151A (ja) 1992-12-09 1994-06-21 Ricoh Co Ltd プリンタ
JP2000236542A (ja) * 1999-02-16 2000-08-29 Olympus Optical Co Ltd 画像処理システム
JP2002033947A (ja) * 2000-07-17 2002-01-31 Ricoh Co Ltd デジタルカメラ、画像データ送信方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
US20030005464A1 (en) * 2001-05-01 2003-01-02 Amicas, Inc. System and method for repository storage of private data on a network for direct client access
JP4410985B2 (ja) * 2002-11-14 2010-02-10 キヤノン株式会社 画像配信システム、画像配信方法、プログラムおよび記録媒体
JP2004193818A (ja) * 2002-12-10 2004-07-08 Hitachi Ltd ワイヤレス画像送受信システム、ワイヤレス画像送信装置及びワイヤレス画像受信装置
US20060195464A1 (en) * 2005-02-28 2006-08-31 Microsoft Corporation Dynamic data delivery
JP2007140682A (ja) * 2005-11-15 2007-06-07 Matsushita Electric Works Ltd 表示器用のデータ作成装置
JP4605021B2 (ja) * 2006-01-06 2011-01-05 村田機械株式会社 文書管理装置
JP4400589B2 (ja) * 2006-03-28 2010-01-20 セイコーエプソン株式会社 画像供給装置、及び画像圧縮方式決定方法
JP4843372B2 (ja) 2006-05-09 2011-12-21 株式会社リコー 画像処理装置
JP2008017441A (ja) 2006-06-06 2008-01-24 Ricoh Co Ltd データ処理装置とデータ処理方法とプログラム
JP2008172727A (ja) 2007-01-15 2008-07-24 Ricoh Co Ltd 制御装置および画像処理システム
US8514430B2 (en) 2007-04-20 2013-08-20 Ricoh Company, Ltd. Apparatus, system, and method for processing image in network environment based on local protocol

Also Published As

Publication number Publication date
US8207979B2 (en) 2012-06-26
JP2010016800A (ja) 2010-01-21
US20090303244A1 (en) 2009-12-10

Similar Documents

Publication Publication Date Title
JP2002262058A (ja) 画像処理方法および装置並びに記録媒体
JP5750899B2 (ja) 画像形成装置およびその制御方法
JP4928497B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム及び記憶媒体
JP5359498B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP5132451B2 (ja) 画像形成装置
JP2004021741A (ja) 画像処理装置及びその制御方法
JP2007334555A (ja) データ転送装置と電子装置
KR100823267B1 (ko) 디바이스에 의한 풀 프린팅 인쇄방법 및 시스템
JP3730586B2 (ja) 画像処理装置
US20160154603A1 (en) Data transfer control device, apparatus including the same, and data transfer control method
JP2002203236A (ja) 画像処理装置および画像処理装置の制御方法および記憶媒体
JP2012096405A (ja) 画像処理システム
JP5233767B2 (ja) 画像処理装置および画像処理方法
JP6720824B2 (ja) 画像処理装置、画像処理装置の制御方法、およびプログラム
JP2002264442A (ja) 画像処理装置
JP6833491B2 (ja) 情報処理装置
JP2008085778A (ja) 情報通信システムおよび受信装置および送信装置および受信制御プログラムおよび送信制御プログラム
JP5494055B2 (ja) 画像形成装置、制御方法、プログラム及び記録媒体
JP2006018406A (ja) 画像形成装置
JP2007312224A (ja) 文書管理システム、並びに当該システムの制御方法及び制御プログラム
JP2003196044A (ja) 画像処理方法及びその装置
JP2006166102A (ja) マルチファンクションシステムコントローラ
JP2005020094A (ja) 画像処理方法、画像処理装置
JP2004157609A (ja) 画像処理装置および画像処理システム
JP2006040120A (ja) 画像処理機能メモリ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130819

R151 Written notification of patent or utility model registration

Ref document number: 5359498

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees