JP2007215001A - Unit, system, and method for processing image - Google Patents

Unit, system, and method for processing image Download PDF

Info

Publication number
JP2007215001A
JP2007215001A JP2006033982A JP2006033982A JP2007215001A JP 2007215001 A JP2007215001 A JP 2007215001A JP 2006033982 A JP2006033982 A JP 2006033982A JP 2006033982 A JP2006033982 A JP 2006033982A JP 2007215001 A JP2007215001 A JP 2007215001A
Authority
JP
Japan
Prior art keywords
image
processing
data
image reproduction
reproduction processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006033982A
Other languages
Japanese (ja)
Other versions
JP2007215001A5 (en
JP4804161B2 (en
Inventor
Kiyoshi Kusama
澄 草間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006033982A priority Critical patent/JP4804161B2/en
Publication of JP2007215001A publication Critical patent/JP2007215001A/en
Publication of JP2007215001A5 publication Critical patent/JP2007215001A5/ja
Application granted granted Critical
Publication of JP4804161B2 publication Critical patent/JP4804161B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Facsimiles In General (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To perform the image reproduction processing of RAW data speedily with high image quality. <P>SOLUTION: In the image reproduction processing of RAW data, it is determined whether a worker PC32 can be used. When the worker PC32 cannot be used, the image reproduction processing is executed in a high-speed mode by a main PC31. When the worker PC32 can be used, the RAW data are transferred to the worker PC32 for performing the image reproduction processing in both the high-speed mode and a high-image-quality one, and differential data are transferred to the main PC31, thus performing the extremely time-consuming image reproduction processing of the high-image-quality mode efficiently by using the worker PC32. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は画像処理装置、画像処理システム及び画像処理方法に関し、特にデジタルカメラにより撮影して得られたデジタル画像データを複数の画像処理装置を使用した分散処理するシステムに用いて好適な技術に関するものである。   The present invention relates to an image processing apparatus, an image processing system, and an image processing method, and more particularly to a technique suitable for use in a system for performing distributed processing of digital image data obtained by photographing with a digital camera using a plurality of image processing apparatuses. It is.

デジタルスチルカメラなどの撮像装置は、CMOS、CCD等の撮像素子により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAW(未処理)データに様々な画像処理を施すように構成されている。   An imaging device such as a digital still camera performs various image processing on RAW (unprocessed) data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image with an image sensor such as CMOS or CCD into digital data. It is comprised so that it may give.

RAWデータを生成するための撮像素子としては、例えばBayer配列の撮像素子があり、これに色補間、ガンマ補正処理、ホワイトバランス調整処理などを行い、画像出力装置で出力する画像を再現する。以下、これらの処理を画像再現処理と呼ぶ。なお、Bayer配列とは、撮像装置の各素子が感知する色情報の配列であり、図4に示すR、G、B値の並びからなる。各画素は1つの色情報しか持たないため、Bayer配列の色補間では、他の色情報を回りの画素の色情報から補間するようにしている。   As an image sensor for generating RAW data, for example, there is an Bayer array image sensor, which performs color interpolation, gamma correction processing, white balance adjustment processing, and the like, and reproduces an image output by the image output device. Hereinafter, these processes are called image reproduction processes. Note that the Bayer array is an array of color information sensed by each element of the imaging apparatus, and includes an array of R, G, and B values shown in FIG. Since each pixel has only one color information, the Bayer array color interpolation interpolates other color information from the color information of surrounding pixels.

ここで、デジタルスチルカメラにおいて、記録される撮影画像の画像データは、非常に多くの情報量を有している。そこで、JPEG符号化などの画像圧縮方式により画像データ量を減らしてから記録媒体に記録するようにしている。このような画像データは、圧縮されるために色情報が失われ、表示装置で画像を表示する際や、プリンタで出力する際に期待した画像を得られないことがある。   Here, in the digital still camera, the image data of the recorded image to be recorded has a very large amount of information. Therefore, the amount of image data is reduced by an image compression method such as JPEG encoding before recording on a recording medium. Since such image data is compressed, color information is lost, and an expected image may not be obtained when an image is displayed on a display device or output by a printer.

これに対し、RAWデータを記録媒体に記録しておき、パソコン等の外部装置により画像の再現処理を行うようにすると、色情報の精度を落とすことなく高品質な画像を得ることができる利点が得られる。   In contrast, if RAW data is recorded on a recording medium and image reproduction processing is performed by an external device such as a personal computer, there is an advantage that a high-quality image can be obtained without degrading the accuracy of color information. can get.

ここで、外部装置により画像の再現処理を行う際に、ユーザは画像調整用のパラメータとしてガンマ値やホワイトバランス値などを所定の値に設定し、そのパラメータが適用された画像を確認しながら適当なパラメータを決定することとなる。   Here, when an image reproduction process is performed by an external device, the user sets a gamma value, a white balance value, or the like as a parameter for image adjustment to a predetermined value, and confirms an image to which the parameter is applied. The parameters will be determined.

この確認作業において、画像の細部まで色の再現性を確認するためには大きな確認用画像が必要となる。そして、ユーザがパラメータを変更する度に撮像装置で記録されたRAWデータ全体に画像再現処理を施して確認用画像を表示すると、非常に時間がかかってしまうという問題がある。   In this confirmation work, a large confirmation image is required to confirm the color reproducibility to the details of the image. Then, every time the user changes the parameter, if the image reproduction process is performed on the entire RAW data recorded by the imaging apparatus and the confirmation image is displayed, it takes a very long time.

したがって、パラメータ調整等は、特に処理が煩雑で時間がかかる偽色緩和処理を省略した画像再現処理(高速モード)で行い、リアルタイムに処理結果を反映して表示までを行うようにしている。一方、RAWデータ全体に偽色緩和処理を含めた画像再現処理(高画質モード)を行うことは、リアルタイムではなく後処理として、まとめて行われていた。   Therefore, parameter adjustment and the like are performed by image reproduction processing (high-speed mode) in which false color mitigation processing that is particularly complicated and time-consuming is omitted, and processing is performed up to the display reflecting the processing result in real time. On the other hand, performing image reproduction processing (high image quality mode) including false color mitigation processing on the entire RAW data is performed collectively as post-processing, not in real time.

また、ネットワークに接続された複数の画像入力装置から入力された原画像データに対して画像処理を施す際には、画像入力装置に依存する画像処理を原画像データの入力時に行い、画像入力装置に依存しない画像処理は画像処理装置の負荷が軽いときに行う。また、入力された原画像データに対して画像処理を施し、ネットワークに接続された複数の画像出力装置に供給するためのデータを生成する際には、画像出力装置に依存しない処理を画像処理装置の負荷が軽いときに行い、画像出力装置に依存する画像処理を画像出力要求時に行う、という入出力装置に関わる処理に関する工夫も行われている(例えば、特許文献1参照)。   Further, when performing image processing on original image data input from a plurality of image input devices connected to a network, image processing depending on the image input device is performed at the time of input of the original image data. The image processing not dependent on is performed when the load on the image processing apparatus is light. In addition, when image processing is performed on input original image data and data to be supplied to a plurality of image output devices connected to a network is generated, processing independent of the image output device is performed. A device has been devised for processing related to an input / output device that is performed when the load on the input / output device is light and image processing dependent on the image output device is performed when an image output is requested (see, for example, Patent Document 1).

特開2002−199151号公報JP 2002-199115 A

いずれにしても、RAWデータ全体に画像再現処理を行うには、リアルタイムに偽色緩和処理を含めた画像再現処理を行うことができないという問題があった。そこで、ネットワーク先の他のリソースを用いて画像再現処理を行うという方法もあるが、ネットワーク先で画像再現処理を行っても、その現像結果を送るのに非常に大きなデータを送らなければならないという二次的問題も発生する不都合があった。   In any case, in order to perform image reproduction processing on the entire RAW data, there has been a problem that image reproduction processing including false color mitigation processing cannot be performed in real time. Therefore, there is a method of performing image reproduction processing using other resources at the network destination, but even if image reproduction processing is performed at the network destination, very large data must be sent to send the development result There was an inconvenience that secondary problems also occurred.

本発明は前述の問題点にかんがみ、RAWデータを画像再現処理する際に、高速にしかも高画質に行なうことができるようにすることを目的としている。   In view of the above-described problems, the present invention has an object to enable high-speed and high-quality image processing when RAW data is reproduced.

本発明の画像処理装置は、撮像装置により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAWデータを画像再現処理する画像処理装置であって、前記RAWデータを画像再現処理することが可能な画像処理装置がネットワーク上に接続されているか否かを判定する外部画像処理装置判定手段と、前記外部画像処理装置判定手段で使用可能と判定された外部画像処理装置にRAWデータを転送するRAWデータ転送手段と、前記RAWデータの画像再現処理を第1のモードにより行う画像再現処理手段と、前記外部画像処理装置から転送された圧縮差分データを解凍する差分データ解凍手段と、前記画像再現処理手段で画像再現処理された画像再現処理データと、前記差分データ解凍手段により解凍された差分データとを統合処理する画像統合処理手段とを有することを特徴とする。
また、本発明の画像処理装置の他の特徴とするところは、ネットワークを介して接続された画像処理装置から送られたRAWデータを画像再現処理する画像処理装置であって、前記ネットワークを介して送られたRAWデータを第1のモード及び第2のモードで画像再現処理する画像再現処理手段と、前記外部画像再現処理手段が前記第1のモードで画像再現処理した画像再現処理データと、前記第2のモードで画像再現処理した画像再現処理データとの差分データを算出する差分データ算出手段と、前記差分データ算出手段により算出された差分データを圧縮して前記ネットワークを介して接続された画像処理装置に転送する差分データ転送手段とを有することを特徴とする。
An image processing apparatus according to the present invention is an image processing apparatus that performs image reproduction processing on RAW data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image by an imaging device into digital data, the RAW data An external image processing apparatus determining means for determining whether an image processing apparatus capable of performing image reproduction processing is connected to the network, and external image processing determined to be usable by the external image processing apparatus determining means RAW data transfer means for transferring RAW data to the apparatus, image reproduction processing means for performing image reproduction processing of the RAW data in a first mode, and differential data for decompressing compressed differential data transferred from the external image processing apparatus The decompression unit, the image reproduction processing data image-reproduced by the image reproduction processing unit, and the difference data decompressed by the difference data decompression unit are integrated. And having an image-integration processing unit for processing.
Another feature of the image processing apparatus of the present invention is an image processing apparatus that performs image reproduction processing of RAW data sent from an image processing apparatus connected via a network, and Image reproduction processing means for performing image reproduction processing on the sent RAW data in the first mode and the second mode, image reproduction processing data obtained by the external image reproduction processing means performing image reproduction processing in the first mode, Difference data calculation means for calculating difference data with image reproduction processing data that has been subjected to image reproduction processing in the second mode, and an image that is connected via the network by compressing the difference data calculated by the difference data calculation means And differential data transfer means for transferring to the processing device.

本発明の画像処理方法は、撮像装置により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAWデータを画像再現処理する画像処理方法であって、前記RAWデータを画像再現処理することが可能な画像処理装置がネットワーク上に接続されているか否かを判定する外部画像処理装置判定工程と、前記外部画像処理装置判定工程で使用可能と判定された外部画像処理装置にRAWデータを転送するRAWデータ転送工程と、前記RAWデータの画像再現処理を第1のモードにより行う画像再現処理工程と、前記外部画像処理装置から転送された圧縮差分データを解凍する差分データ解凍工程と、前記画像再現処理工程で画像再現処理された画像再現処理データと、前記差分データ解凍工程において解凍された差分データとを統合処理する画像統合処理工程とを有することを特徴とする。
また、本発明の画像処理方法の他の特徴とするところは、ネットワークを介して接続された画像処理装置から送られたRAWデータを画像再現処理する画像処理方法であって、前記ネットワークを介して送られたRAWデータを第1のモード及び第2のモードで画像再現処理する画像再現処理工程と、前記外部画像再現処理工程において前記第1のモードで画像再現処理した画像再現処理データと、前記第2のモードで画像再現処理した画像再現処理データとの差分データを算出する差分データ算出工程と、前記差分データ算出工程において算出された差分データを圧縮して前記ネットワークを介して接続された画像処理装置に転送する差分データ転送工程とを有することを特徴とする。
The image processing method of the present invention is an image processing method for performing image reproduction processing of RAW data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image by an imaging device into digital data, the RAW data An external image processing apparatus determining step for determining whether an image processing apparatus capable of performing image reproduction processing is connected to the network, and external image processing determined to be usable in the external image processing apparatus determining step RAW data transfer step for transferring RAW data to the apparatus, an image reproduction processing step for performing image reproduction processing of the RAW data in a first mode, and differential data for decompressing the compressed differential data transferred from the external image processing device A decompression step, image reproduction processing data image-reproduced in the image reproduction processing step, and difference data decompressed in the difference data decompression step. And having an image-integration processing step of coupling processing.
Another feature of the image processing method of the present invention is an image processing method for image reproduction processing of RAW data sent from an image processing apparatus connected via a network, the image processing method via the network. An image reproduction processing step of performing image reproduction processing on the sent RAW data in a first mode and a second mode; image reproduction processing data obtained by performing image reproduction processing in the first mode in the external image reproduction processing step; A difference data calculation step of calculating difference data with the image reproduction processing data image-reproduced in the second mode, and an image connected via the network by compressing the difference data calculated in the difference data calculation step And a differential data transfer step of transferring to the processing device.

本発明のプログラムは、撮像装置により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAWデータを画像再現処理する画像処理方法をコンピュータに実行させるプログラムであって、前記RAWデータを画像再現処理することが可能な画像処理装置がネットワーク上に接続されているか否かを判定する外部画像処理装置判定工程と、前記外部画像処理装置判定工程で使用可能と判定された外部画像処理装置にRAWデータを転送するRAWデータ転送工程と、前記RAWデータの画像再現処理を第1のモードにより行う画像再現処理工程と、前記外部画像処理装置から転送された圧縮差分データを解凍する差分データ解凍工程と、前記画像再現処理工程で画像再現処理された画像再現処理データと、前記差分データ解凍工程において解凍された差分データとを統合処理する画像統合処理工程とを有する画像処理方法をコンピュータに実行させることを特徴とする。
また、本発明の他の特徴とするところは、ネットワークを介して接続された画像処理装置から送られたRAWデータを画像再現処理する画像処理方法をコンピュータに実行させるプログラムであって、前記ネットワークを介して送られたRAWデータを第1のモード及び第2のモードで画像再現処理する画像再現処理工程と、前記外部画像再現処理工程において前記第1のモードで画像再現処理した画像再現処理データと、前記第2のモードで画像再現処理した画像再現処理データとの差分データを算出する差分データ算出工程と、前記差分データ算出工程において算出された差分データを圧縮して前記ネットワークを介して接続された画像処理装置に転送する差分データ転送工程とを有する画像処理方法をコンピュータに実行させることを特徴とする。
The program of the present invention is a program for causing a computer to execute an image processing method for image reproduction processing of RAW data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image by an imaging device into digital data. The external image processing apparatus determining step for determining whether or not an image processing apparatus capable of performing image reproduction processing on the RAW data is connected to the network and the external image processing apparatus determining step are determined to be usable. A RAW data transfer step of transferring RAW data to the external image processing device, an image reproduction processing step of performing image reproduction processing of the RAW data in a first mode, and compressed differential data transferred from the external image processing device. Differential data decompression step to decompress, image reproduction processing data image reproduced in the image reproduction processing step, and differential data decompression process Characterized in that to execute the image processing method on a computer having an image-integration processing step of integrating processes the uncompressed difference data in.
Another feature of the present invention is a program for causing a computer to execute an image processing method for image reproduction processing of RAW data sent from an image processing apparatus connected via a network, An image reproduction processing step of performing image reproduction processing on the RAW data sent through the first mode and the second mode, and image reproduction processing data obtained by performing image reproduction processing in the first mode in the external image reproduction processing step; A difference data calculation step for calculating difference data with the image reproduction processing data image-reproduced in the second mode, and the difference data calculated in the difference data calculation step is compressed and connected via the network. And causing a computer to execute an image processing method having a difference data transfer step of transferring to the image processing apparatus. .

本発明によれば、デジタル画像データを複数の画像処理装置を使用して分散画像再現処理を行う場合に、従来と比較して、画像再現処理の負荷を分散させることができるとともに、ネットワークへの負荷も低減することができ、高速かつ効率的で高画質な画像再現処理を行うことができる。   According to the present invention, when distributed image reproduction processing is performed on digital image data using a plurality of image processing apparatuses, it is possible to distribute the load of image reproduction processing as compared with the prior art, and The load can also be reduced, and high-speed and efficient image reproduction processing with high image quality can be performed.

(第1の実施形態)
以下、図面を参照して、本発明の好適な実施形態を説明する。
図1は、第1の実施形態の構成例を示すブロック図である。図1において、読込部100は公知のCCD素子などで構成されている撮像装置などで画像を読み込む。入力部101はキーボードやポインティング装置で構成されており、ユーザは入力部101を操作しデータの入力や操作の指示を行うことができる。
(First embodiment)
Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram illustrating a configuration example of the first embodiment. In FIG. 1, a reading unit 100 reads an image with an imaging device configured with a known CCD element or the like. The input unit 101 includes a keyboard and a pointing device, and a user can operate the input unit 101 to input data and instruct operation.

蓄積部102はバイナリデータやメタデータを蓄積するものであり、ハードディスクで構成されている。表示部103は蓄積部102に蓄積されたバイナリデータを表示したり、読込部100で読み込まれた画像データを表示したりするものであり、CRTまたは液晶で構成することができる。   The storage unit 102 stores binary data and metadata, and is configured by a hard disk. The display unit 103 displays binary data stored in the storage unit 102 or displays image data read by the reading unit 100, and can be composed of a CRT or a liquid crystal.

CPU104は前記の処理のすべてに関わり、ROM105とRAM106はその処理に必要なメモリや作業領域を提供する。また、図2及び図3のフローチャートを参照して後述する本実施形態の処理手順を実現するための制御プログラムもROM105に格納されている。   The CPU 104 is involved in all of the above processing, and the ROM 105 and the RAM 106 provide a memory and a work area necessary for the processing. Further, a control program for realizing the processing procedure of the present embodiment described later with reference to the flowcharts of FIGS. 2 and 3 is also stored in the ROM 105.

次に、本実施形態で示す画像処理装置でRAWデータ全体の画像再現処理を分散して行う方法について図2を用いて説明する。
ここで、ユーザがパラメータを指定したり、主な作業を行う画像処理装置を「メインPC」とし、ネットワーク先で画像再現処理を実行する画像処理装置を「ワーカーPC」とする。
Next, a method for performing image reproduction processing of the entire RAW data in a distributed manner in the image processing apparatus shown in this embodiment will be described with reference to FIG.
Here, an image processing apparatus for which a user designates a parameter or performs a main work is referred to as “main PC”, and an image processing apparatus that executes image reproduction processing at a network destination is referred to as “worker PC”.

まず、ステップS201において、分散処理対象となる「ワーカーPC」を全て登録する。
次に、ステップS202において、ユーザにより複数枚数のRAWデータの画像再現処理が指示される。
First, in step S201, all “worker PCs” to be distributed are registered.
In step S202, the user instructs an image reproduction process for a plurality of RAW data.

次に、ステップS203において、登録済み「ワーカーPC」の中で画像再現処理を実行可能なPCが存在するか否かを検索する。ここで、ワーカーPCの負荷が大きく画像再現処理を行うことができない場合、あるいはネットワークが接続されていない場合などにはそのPCは不可能となる。   Next, in step S203, it is searched whether there is a PC that can execute the image reproduction process among the registered “worker PCs”. Here, when the load of the worker PC is large and image reproduction processing cannot be performed, or when the network is not connected, the PC becomes impossible.

ステップS203の検索の結果、画像再現処理を実行可能なワーカーPCが存在する場合はステップS204に進み、RAWデータと画像再現処理等に必要なパラメータをワーカーPCに転送する。ここで、パラメータとはRAWデータを処理するために必要な画像処理パラメータ(ガンマ補正処理、ホワイトバランス調整処理、色調処理、クロップ、リサイズなど)と、ファイル処理パラメータ(RAWデータの格納場所、画像再現処理後の画像ファイルの格納場所)等である。   If there is a worker PC capable of executing the image reproduction process as a result of the search in step S203, the process proceeds to step S204, and RAW data and parameters necessary for the image reproduction process are transferred to the worker PC. Here, parameters are image processing parameters (gamma correction processing, white balance adjustment processing, color tone processing, cropping, resizing, etc.) required for processing RAW data, and file processing parameters (raw data storage location, image reproduction) Storage location of the image file after processing) and the like.

次に、図3を用いて分散処理動作について詳しく説明する。
まず、ステップS301で、メインPC31からRAWデータとパラメータをワーカーPC32に転送する。
Next, the distributed processing operation will be described in detail with reference to FIG.
First, in step S301, RAW data and parameters are transferred from the main PC 31 to the worker PC 32.

次に、ステップS302で、ワーカーPC32において、転送されたRAWデータをパラメータに従って、高画質モードと高速モードの両方のモードで画像再現処理する。本実施形態においては、画像再現処理用のプログラムはあらかじめワーカーPC32に用意しているものとする。   Next, in step S302, the worker PC 32 performs image reproduction processing on the transferred RAW data in both the high image quality mode and the high speed mode according to the parameters. In this embodiment, it is assumed that a program for image reproduction processing is prepared in advance in the worker PC 32.

次に、ステップS303で、ワーカーPC32で高速モードと高画質モードで画像再現処理された結果の差分データを圧縮してメインPC31に転送する。
次に、ステップS304で、メインPC31は高速モードで画像再現処理を行い、結果を表示する。
Next, in step S303, the difference data obtained as a result of image reproduction processing in the high-speed mode and the high-quality mode by the worker PC 32 is compressed and transferred to the main PC 31.
Next, in step S304, the main PC 31 performs image reproduction processing in the high-speed mode and displays the result.

次に、ステップS305で、メインPC31はワーカーPC32から転送された差分データファイルを解凍し、ステップS304で計算された高速モードの結果と合わせて高画質モードの処理結果を表示する。   Next, in step S305, the main PC 31 decompresses the differential data file transferred from the worker PC 32, and displays the processing result in the high image quality mode together with the result in the high speed mode calculated in step S304.

以上により、始めはメインPC31で高速モードの画像再現処理した結果を表示し、次にワーカーPC32から送られた差分データを用いて、高画質モードで画像再現処理した結果を表示することができる。特に、ワーカーPC32の処理能力がメインPC31の処理能力より著しく高い場合に、本実施形態の効果を顕著に得ることができる。   As described above, first, the result of the image reproduction process in the high speed mode can be displayed on the main PC 31, and then the result of the image reproduction process in the high image quality mode can be displayed using the difference data sent from the worker PC 32. In particular, when the processing capability of the worker PC 32 is significantly higher than the processing capability of the main PC 31, the effect of this embodiment can be remarkably obtained.

一方、ステップS203の検索の結果、ワーカーPC32が使えない場合には、ステップS205に進み、メインPC31で高速モードで画像再現処理を実行する。
ステップS204、またはステップS205によって、RAWデータの画像再現処理が終わった後にステップS206に進む。
On the other hand, if the worker PC 32 cannot be used as a result of the search in step S203, the process proceeds to step S205, and the main PC 31 executes image reproduction processing in the high-speed mode.
After the RAW data image reproduction process is completed in step S204 or step S205, the process proceeds to step S206.

ステップS206においては、指示された全ての画像の画像再現処理が終了したかどうかを判断する。この判断の結果、全ての画像の画像再現処理が終了していない場合にはステップS203に戻り前述した処理を繰り返し実行する。また、ステップS206の判断の結果、全ての画像の画像再現処理が終了した場合には画像再現処理の分散処理を終了する。   In step S206, it is determined whether the image reproduction process for all the designated images has been completed. If the result of this determination is that image reproduction processing for all images has not been completed, processing returns to step S203 and the above processing is repeated. If the image reproduction process for all images is completed as a result of the determination in step S206, the dispersion process of the image reproduction process is terminated.

以上説明したように、本発明の第1の実施形態によれば、メイン画像処理装置において、RAWデータを画像再現処理を行う場合には、ワーカーPC32が使用可能かどうか判定し、使用することができない場合にはメインPC31で高速モードで画像再現処理を実行する。また、使用することができる場合にはRAWデータをワーカーPC32に転送して高速モードと高画質モードの両方で画像再現処理を行う際に、差分データをメインPC31に転送する。このようにすることで、今まで非常に時間のかかっていた高画質モードの画像再現処理をワーカーPC32を用いて効率的に行うことが可能となる。また、ワーカーPC32が使えない場合には従来どおりの高速モードで行うので、ストレスのない画像再現処理動作を行うことが可能である。   As described above, according to the first embodiment of the present invention, when performing image reproduction processing on RAW data in the main image processing apparatus, it is determined whether the worker PC 32 can be used and used. If not, the main PC 31 executes image reproduction processing in the high speed mode. If the RAW data can be used, the difference data is transferred to the main PC 31 when the RAW data is transferred to the worker PC 32 and the image reproduction process is performed in both the high speed mode and the high image quality mode. By doing so, it is possible to efficiently perform image reproduction processing in the high image quality mode, which has taken a long time until now, using the worker PC 32. Further, when the worker PC 32 cannot be used, the conventional high-speed mode is used, so that an image reproduction processing operation without stress can be performed.

(第2の実施形態)
前述した第1の実施形態においては、ステップS201でワーカーPC32はあらかじめ登録しておいたが、ネットワークで接続された画像処理装置を検索して、ステップS202以降に動的に登録するようにしてもかまわない。
(Second Embodiment)
In the first embodiment described above, the worker PC 32 has been registered in advance in step S201. However, the image processing apparatus connected to the network may be searched and dynamically registered in step S202 and subsequent steps. It doesn't matter.

また、第1の実施形態ではステップS203において、登録済み「ワーカーPC」の中で画像再現処理を実行可能なPCがあるかを検索し、その検索結果に応じてメインPC31のみで画像再現処理を行うか、メインPC31及びワーカーPC32の両方で分散して画像再現処理を行なうかを判断していたが、登録済みPCの処理能力およびネットワーク回線容量も考慮して、実行可能なPCがあるかどうかを判断してもよい。   In the first embodiment, in step S203, the registered “worker PC” is searched for a PC that can execute the image reproduction process, and only the main PC 31 performs the image reproduction process according to the search result. Whether or not to perform image reproduction processing in a distributed manner on both the main PC 31 and the worker PC 32. Whether there is an executable PC in consideration of the processing capability and network line capacity of the registered PC May be judged.

また、ステップS302でワーカーPC32には画像再現処理用のプログラムをあらかじめ転送しておいたが、RAWデータと一緒に画像再現処理用のプログラムを転送するようにしてもよい。   In step S302, the image reproduction processing program is transferred to the worker PC 32 in advance, but the image reproduction processing program may be transferred together with the RAW data.

(他の実施形態)
また、各実施形態の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
(Other embodiments)
Also, the object of each embodiment is to supply a storage medium (or recording medium) in which a program code of software that realizes the functions of the above-described embodiments is recorded to a system or apparatus. Needless to say, this can also be achieved by the computer (or CPU or MPU) of the system or apparatus reading and executing the program code stored in the storage medium.

この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行う。そして、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the storage medium storing the program code constitutes the present invention. Further, by executing the program code read by the computer, not only the functions of the above-described embodiments are realized, but also an operating system (OS) running on the computer based on the instruction of the program code. Perform some or all of the actual processing. Needless to say, the process includes the case where the functions of the above-described embodiments are realized.

さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Further, the program code read from the storage medium is written in a memory provided in a function expansion card inserted into the computer or a function expansion unit connected to the computer. After that, based on the instruction of the program code, the CPU included in the function expansion card or function expansion unit performs part or all of the actual processing, and the function of the above-described embodiment is realized by the processing. Needless to say.

本発明を前記記憶媒体に適用する場合、その記憶媒体には、先に説明した図2及び図3のフローチャートに対応するプログラムコードが格納されることになる。   When the present invention is applied to the storage medium, the storage medium stores program codes corresponding to the flowcharts of FIGS. 2 and 3 described above.

第1の実施形態を示し、データ処理装置の構成を示すブロック図である。It is a block diagram which shows 1st Embodiment and shows the structure of a data processor. 第1の実施形態を示し、分散処理を行う手順を示すフローチャートである。It is a flowchart which shows 1st Embodiment and shows the procedure which performs a distributed process. 第1の実施形態を示し、メインPCとワーカーPCとで分散処理を行う場合の処理手順を説明するフローチャートである。It is a flowchart which shows 1st Embodiment and demonstrates the process sequence in the case of performing distributed processing with main PC and worker PC. Bayer配列を示す図である。It is a figure which shows a Bayer arrangement | sequence.

符号の説明Explanation of symbols

100 読込部
101 入力部
102 蓄積部
103 表示部
104 CPU
105 ROM
106 RAM
DESCRIPTION OF SYMBOLS 100 Reading part 101 Input part 102 Accumulation part 103 Display part 104 CPU
105 ROM
106 RAM

Claims (12)

撮像装置により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAWデータを画像再現処理する画像処理装置であって、
前記RAWデータを画像再現処理することが可能な画像処理装置がネットワーク上に接続されているか否かを判定する外部画像処理装置判定手段と、
前記外部画像処理装置判定手段で使用可能と判定された外部画像処理装置にRAWデータを転送するRAWデータ転送手段と、
前記RAWデータの画像再現処理を第1のモードにより行う画像再現処理手段と、
前記外部画像処理装置から転送された圧縮差分データを解凍する差分データ解凍手段と、
前記画像再現処理手段で画像再現処理された画像再現処理データと、前記差分データ解凍手段により解凍された差分データとを統合処理する画像統合処理手段とを有することを特徴とする画像処理装置。
An image processing device that performs image reproduction processing of RAW data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image by an imaging device into digital data,
An external image processing device determination means for determining whether an image processing device capable of performing image reproduction processing of the RAW data is connected to a network;
RAW data transfer means for transferring RAW data to an external image processing apparatus determined to be usable by the external image processing apparatus determination means;
Image reproduction processing means for performing image reproduction processing of the RAW data in a first mode;
Differential data decompression means for decompressing the compressed differential data transferred from the external image processing device;
An image processing apparatus, comprising: image integration processing means for integrating the image reproduction processing data image-reproduced by the image reproduction processing means and the difference data decompressed by the difference data decompression means.
前記外部画像処理装置判定手段は、前記外部画像処理装置の処理能力、負荷状況、ネットワークの回線状況に応じて画像再現処理装置として使用可能かどうかを判定することを特徴とする請求項1に記載の画像処理装置。   2. The external image processing apparatus determination unit determines whether or not the external image processing apparatus can be used as an image reproduction processing apparatus according to a processing capability, a load status, and a network line status of the external image processing apparatus. Image processing apparatus. ネットワークを介して接続された画像処理装置から送られたRAWデータを画像再現処理する画像処理装置であって、
前記ネットワークを介して送られたRAWデータを第1のモード及び第2のモードで画像再現処理する画像再現処理手段と、
前記外部画像再現処理手段が前記第1のモードで画像再現処理した画像再現処理データと、前記第2のモードで画像再現処理した画像再現処理データとの差分データを算出する差分データ算出手段と、
前記差分データ算出手段により算出された差分データを圧縮して前記ネットワークを介して接続された画像処理装置に転送する差分データ転送手段とを有することを特徴とする画像処理装置。
An image processing apparatus that performs image reproduction processing on RAW data sent from an image processing apparatus connected via a network,
Image reproduction processing means for performing image reproduction processing on the RAW data sent via the network in the first mode and the second mode;
Difference data calculation means for calculating difference data between the image reproduction processing data obtained by the external image reproduction processing means in the first mode and the image reproduction processing data obtained by the image reproduction processing in the second mode;
An image processing apparatus comprising: difference data transfer means for compressing difference data calculated by the difference data calculation means and transferring the compressed data to an image processing apparatus connected via the network.
前記第1のモードとは、前記第2のモードに対して偽色緩和処理を省略したものであることを特徴とする請求項1〜3の何れか1項に記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the first mode is obtained by omitting false color mitigation processing from the second mode. 請求項1または2に記載の画像処理装置と、請求項3または4に記載の画像処理装置とを有することを特徴とする画像処理システム。   An image processing system comprising: the image processing apparatus according to claim 1; and the image processing apparatus according to claim 3. 撮像装置により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAWデータを画像再現処理する画像処理方法であって、
前記RAWデータを画像再現処理することが可能な画像処理装置がネットワーク上に接続されているか否かを判定する外部画像処理装置判定工程と、
前記外部画像処理装置判定工程で使用可能と判定された外部画像処理装置にRAWデータを転送するRAWデータ転送工程と、
前記RAWデータの画像再現処理を第1のモードにより行う画像再現処理工程と、
前記外部画像処理装置から転送された圧縮差分データを解凍する差分データ解凍工程と、
前記画像再現処理工程で画像再現処理された画像再現処理データと、前記差分データ解凍工程において解凍された差分データとを統合処理する画像統合処理工程とを有することを特徴とする画像処理方法。
An image processing method for image reproduction processing of RAW data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image by an imaging device into digital data,
An external image processing device determination step for determining whether an image processing device capable of performing image reproduction processing of the RAW data is connected to a network;
RAW data transfer step of transferring RAW data to the external image processing device determined to be usable in the external image processing device determination step;
An image reproduction processing step of performing image reproduction processing of the RAW data in a first mode;
A differential data decompression step for decompressing the compressed differential data transferred from the external image processing device;
An image processing method comprising: an image integration processing step of integrating the image reproduction processing data subjected to the image reproduction processing in the image reproduction processing step and the difference data decompressed in the difference data decompression step.
前記外部画像処理装置判定工程は、前記外部画像処理装置の処理能力、負荷状況、ネットワークの回線状況に応じて画像再現処理装置として使用可能かどうかを判定することを特徴とする請求項6に記載の画像処理方法。   The external image processing apparatus determination step determines whether or not the external image processing apparatus can be used as an image reproduction processing apparatus according to a processing capability, a load status, and a network line status of the external image processing apparatus. Image processing method. ネットワークを介して接続された画像処理装置から送られたRAWデータを画像再現処理する画像処理方法であって、
前記ネットワークを介して送られたRAWデータを第1のモード及び第2のモードで画像再現処理する画像再現処理工程と、
前記外部画像再現処理工程において前記第1のモードで画像再現処理した画像再現処理データと、前記第2のモードで画像再現処理した画像再現処理データとの差分データを算出する差分データ算出工程と、
前記差分データ算出工程において算出された差分データを圧縮して前記ネットワークを介して接続された画像処理装置に転送する差分データ転送工程とを有することを特徴とする画像処理方法。
An image processing method for image reproduction processing of RAW data sent from an image processing apparatus connected via a network,
An image reproduction processing step of performing image reproduction processing of the RAW data sent via the network in the first mode and the second mode;
A difference data calculating step of calculating difference data between the image reproduction processing data image-reproduced in the first mode and the image reproduction processing data image-reproduced in the second mode in the external image reproduction processing step;
A difference data transfer step of compressing the difference data calculated in the difference data calculation step and transferring the compressed difference data to an image processing apparatus connected via the network.
前記第1のモードとは、前記第2のモードに対して偽色緩和処理を省略したものであることを特徴とする請求項6〜8の何れか1項に記載の画像処理方法。   The image processing method according to any one of claims 6 to 8, wherein the first mode is obtained by omitting a false color mitigation process from the second mode. 撮像装置により被写体光学像を光電変換して得られた撮影画像の電気信号をデジタルデータに変換したRAWデータを画像再現処理する画像処理方法をコンピュータに実行させるプログラムであって、
前記RAWデータを画像再現処理することが可能な画像処理装置がネットワーク上に接続されているか否かを判定する外部画像処理装置判定工程と、
前記外部画像処理装置判定工程で使用可能と判定された外部画像処理装置にRAWデータを転送するRAWデータ転送工程と、
前記RAWデータの画像再現処理を第1のモードにより行う画像再現処理工程と、
前記外部画像処理装置から転送された圧縮差分データを解凍する差分データ解凍工程と、
前記画像再現処理工程で画像再現処理された画像再現処理データと、前記差分データ解凍工程において解凍された差分データとを統合処理する画像統合処理工程とを有する画像処理方法をコンピュータに実行させることを特徴とするプログラム。
A program for causing a computer to execute an image processing method for image reproduction processing of RAW data obtained by converting an electrical signal of a captured image obtained by photoelectrically converting a subject optical image by an imaging device into digital data,
An external image processing device determination step for determining whether an image processing device capable of performing image reproduction processing of the RAW data is connected to a network;
RAW data transfer step of transferring RAW data to the external image processing device determined to be usable in the external image processing device determination step;
An image reproduction processing step of performing image reproduction processing of the RAW data in a first mode;
A differential data decompression step for decompressing the compressed differential data transferred from the external image processing device;
Causing a computer to execute an image processing method including image reproduction processing data subjected to image reproduction processing in the image reproduction processing step and an image integration processing step of integrating the difference data decompressed in the difference data decompression step. A featured program.
ネットワークを介して接続された画像処理装置から送られたRAWデータを画像再現処理する画像処理方法をコンピュータに実行させるプログラムであって、
前記ネットワークを介して送られたRAWデータを第1のモード及び第2のモードで画像再現処理する画像再現処理工程と、
前記外部画像再現処理工程において前記第1のモードで画像再現処理した画像再現処理データと、前記第2のモードで画像再現処理した画像再現処理データとの差分データを算出する差分データ算出工程と、
前記差分データ算出工程において算出された差分データを圧縮して前記ネットワークを介して接続された画像処理装置に転送する差分データ転送工程とを有する画像処理方法をコンピュータに実行させることを特徴とするプログラム。
A program for causing a computer to execute an image processing method for image reproduction processing of RAW data sent from an image processing apparatus connected via a network,
An image reproduction processing step of performing image reproduction processing of the RAW data sent via the network in the first mode and the second mode;
A difference data calculating step of calculating difference data between the image reproduction processing data image-reproduced in the first mode and the image reproduction processing data image-reproduced in the second mode in the external image reproduction processing step;
A program causing a computer to execute an image processing method including a difference data transfer step of compressing difference data calculated in the difference data calculation step and transferring the compressed difference data to an image processing apparatus connected via the network. .
請求項10または11に記載のプログラムを記録したことを特徴とするコンピュータ読み取り可能な記録媒体。   A computer-readable recording medium on which the program according to claim 10 or 11 is recorded.
JP2006033982A 2006-02-10 2006-02-10 Image processing apparatus, image processing system, and control method for image processing apparatus Expired - Fee Related JP4804161B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006033982A JP4804161B2 (en) 2006-02-10 2006-02-10 Image processing apparatus, image processing system, and control method for image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006033982A JP4804161B2 (en) 2006-02-10 2006-02-10 Image processing apparatus, image processing system, and control method for image processing apparatus

Publications (3)

Publication Number Publication Date
JP2007215001A true JP2007215001A (en) 2007-08-23
JP2007215001A5 JP2007215001A5 (en) 2009-03-26
JP4804161B2 JP4804161B2 (en) 2011-11-02

Family

ID=38493028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006033982A Expired - Fee Related JP4804161B2 (en) 2006-02-10 2006-02-10 Image processing apparatus, image processing system, and control method for image processing apparatus

Country Status (1)

Country Link
JP (1) JP4804161B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012014013A (en) * 2010-07-01 2012-01-19 Sony Corp Microscope control device, image management server, image processing method, program, and image management system
US20190110077A1 (en) * 2017-10-10 2019-04-11 Samsung Electronics Co., Ltd. Method and electronic device for processing raw image acquired through camera by using external electronic device
WO2019164185A1 (en) 2018-02-23 2019-08-29 Samsung Electronics Co., Ltd. Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
KR20190108833A (en) * 2018-03-15 2019-09-25 삼성전자주식회사 Electronic device and method for processing compression using restored information of image acquired by using camera

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135508A (en) * 2000-10-24 2002-05-10 Canon Inc Image processing apparatus, image processing system, processing distribution method, resource acquisition method, job trust processing method and storage medium
JP2005033667A (en) * 2003-07-10 2005-02-03 Fuji Xerox Co Ltd Image processing system, image providing device, image output device, image processing method, and its program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135508A (en) * 2000-10-24 2002-05-10 Canon Inc Image processing apparatus, image processing system, processing distribution method, resource acquisition method, job trust processing method and storage medium
JP2005033667A (en) * 2003-07-10 2005-02-03 Fuji Xerox Co Ltd Image processing system, image providing device, image output device, image processing method, and its program

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012014013A (en) * 2010-07-01 2012-01-19 Sony Corp Microscope control device, image management server, image processing method, program, and image management system
US10812830B2 (en) 2017-10-10 2020-10-20 Samsung Electronics Co., Ltd. Method and electronic device for processing raw image acquired through camera by using external electronic device
KR20190040416A (en) * 2017-10-10 2019-04-18 삼성전자주식회사 Method and electronic device for processing raw image acquired by using camera by using external electronic device
CN109658338A (en) * 2017-10-10 2019-04-19 三星电子株式会社 Use the method and electronic device of external electronic processing original image
EP3471395A3 (en) * 2017-10-10 2019-06-26 Samsung Electronics Co., Ltd. Method and electronic device for processing raw image acquired through camera by using external electronic device
KR102495753B1 (en) * 2017-10-10 2023-02-03 삼성전자주식회사 Method and electronic device for processing raw image acquired by using camera by using external electronic device
US20190110077A1 (en) * 2017-10-10 2019-04-11 Samsung Electronics Co., Ltd. Method and electronic device for processing raw image acquired through camera by using external electronic device
CN111788603A (en) * 2018-02-23 2020-10-16 三星电子株式会社 Electronic device and method for correcting an image corrected with a first image processing scheme in an external electronic device with a second image processing scheme
KR20190101534A (en) * 2018-02-23 2019-09-02 삼성전자주식회사 Electronic device and method for correcting images corrected by a first image processing mode in external electronic device using a second image processing mode
EP3707671A4 (en) * 2018-02-23 2020-12-09 Samsung Electronics Co., Ltd. Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
US11290641B2 (en) 2018-02-23 2022-03-29 Samsung Electronics Co., Ltd. Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
WO2019164185A1 (en) 2018-02-23 2019-08-29 Samsung Electronics Co., Ltd. Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
KR102495763B1 (en) * 2018-02-23 2023-02-06 삼성전자주식회사 Electronic device and method for correcting images corrected by a first image processing mode in external electronic device using a second image processing mode
KR20190108833A (en) * 2018-03-15 2019-09-25 삼성전자주식회사 Electronic device and method for processing compression using restored information of image acquired by using camera
KR102688523B1 (en) * 2018-03-15 2024-07-26 삼성전자주식회사 Electronic device and method for processing compression using restored information of image acquired by using camera

Also Published As

Publication number Publication date
JP4804161B2 (en) 2011-11-02

Similar Documents

Publication Publication Date Title
US20150103204A1 (en) Image processing device and method capable of displaying high-quality image while preventing display delay, and image pickup apparatus
JP5025498B2 (en) Image processing apparatus and control method thereof
JP4205634B2 (en) Method and program used in image transmission apparatus
JP4804161B2 (en) Image processing apparatus, image processing system, and control method for image processing apparatus
JP2014204175A (en) Image processing apparatus and control method thereof
JP4012201B2 (en) Image data compression apparatus and restoration apparatus, and image data compression program and restoration program
JP7458806B2 (en) Image processing device and image processing method
JP2007201935A (en) Control method of image processing apparatus, and image processing apparatus
US8531746B2 (en) Image processing apparatus
US20080030608A1 (en) Electronic camera and combined program
JP2006173931A (en) Image processing apparatus, control method thereof, computer program, and computer readable storage medium
JP2007221685A (en) Digital camera and control method therefor
JP2009038740A (en) Image encoding device
JP4952409B2 (en) Image compression apparatus and program
US11283938B2 (en) Communication apparatus communicating with another communication apparatus based on performance, control method, and storage medium
JP2007201617A (en) Image processing method, image processing apparatus, computer program, and storage medium
JP4438357B2 (en) Electronic still camera
JP4996316B2 (en) Image processing apparatus, image processing method, image processing system, program, and storage medium
JP2012231488A (en) Image processing device and control method therefor
JP5875348B2 (en) Color space conversion device and color space conversion method
JP2005175647A (en) Image processing method, image processing apparatus, and control program for image processing apparatus
JP2004260572A (en) Digital camera and control method thereof
JP2022017888A (en) Image processing apparatus, method for controlling image processing apparatus, and program
JP2019110367A (en) Imaging device
JP2006324813A (en) Image forming device and compression method therefor

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090210

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100928

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110802

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110809

R151 Written notification of patent or utility model registration

Ref document number: 4804161

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees