JP2001128048A - Method and device for acquiring picture, method and device for processing picture and recording medium - Google Patents

Method and device for acquiring picture, method and device for processing picture and recording medium

Info

Publication number
JP2001128048A
JP2001128048A JP2000155648A JP2000155648A JP2001128048A JP 2001128048 A JP2001128048 A JP 2001128048A JP 2000155648 A JP2000155648 A JP 2000155648A JP 2000155648 A JP2000155648 A JP 2000155648A JP 2001128048 A JP2001128048 A JP 2001128048A
Authority
JP
Japan
Prior art keywords
image
image data
sampling
processing
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000155648A
Other languages
Japanese (ja)
Other versions
JP3874994B2 (en
Inventor
Wataru Ito
渡 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2000155648A priority Critical patent/JP3874994B2/en
Priority to US09/627,062 priority patent/US7010172B1/en
Publication of JP2001128048A publication Critical patent/JP2001128048A/en
Priority to US10/809,393 priority patent/US7623729B2/en
Application granted granted Critical
Publication of JP3874994B2 publication Critical patent/JP3874994B2/en
Priority to US12/508,414 priority patent/US7801389B2/en
Priority to US12/508,364 priority patent/US7801388B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To execute an appropriate sharpness emphasis processing on picture data in accordance with sampling arrangement at the time of acquiring a picture. SOLUTION: When a picture data S1 is acquired in a picture acquirement means 6, sampling information J on sampling arrangement at the time of acquiring a picture is given to the picture data S1. A picture reading means 1 reads the picture data S1 and the sampling information J and a discrimination means 2 discriminated sampling arrangement at the time of acquiring the picture based on the sampling information J. A sharpness emphasis processing means 3 executes a different sharpness emphasis processing on the picture data S1 in accordance with the discrimination result of the discrimination means 2. When the picture data S1 is pane sampling, for example, the sharpness emphasis processing for separating data into a diagonal direction is executed. Processed picture data S2 which is thus obtained is reproduced in a reproduction means 4.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、市松サンプリング
や正方サンプリングにより画像を捕捉することにより画
像データを取得する画像取得方法および装置、この画像
データに対してシャープネス強調処理を施す画像処理方
法および装置、並びにこれらの方法をコンピュータに実
行させるためのプログラムを記録したコンピュータ読取
り可能な記録媒体に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image acquisition method and apparatus for acquiring image data by acquiring an image by checkerboard sampling or square sampling, and an image processing method and apparatus for performing sharpness enhancement processing on the image data. And a computer-readable recording medium on which a program for causing a computer to execute these methods is recorded.

【0002】[0002]

【従来の技術】デジタル電子スチルカメラ(以下デジタ
ルカメラとする)においては、撮影により取得した画像
をデジタル画像データとしてデジタルカメラ内部に設け
られた内部メモリやICカード等の記録媒体に記憶し、
記憶されたデジタル画像データに対して、階調処理やシ
ャープネス強調処理等の画像処理を施した後に、プリン
ト等のハードコピーとしてあるいはディスプレイ上にソ
フトコピーとして撮影により取得した画像を再現するこ
とができる。このように、デジタルカメラにより取得し
た画像を再現する場合においては、ネガフイルムからプ
リントされた写真と同様の高品位な画質を有するものと
することが期待されている。このため、デジタルカメラ
において得られた画像データに、画像を取得した際のス
トロボの有無、照明の種類等の撮像情報を付与して出力
し、画像処理を行う際には画像データに付与されている
撮影情報を参照して、画像データに対してより適切な画
像処理を施すようにした画像再生方法が提案されている
(特開平10−191246号)。
2. Description of the Related Art In a digital electronic still camera (hereinafter referred to as a digital camera), an image obtained by photographing is stored as digital image data in a recording medium such as an internal memory or an IC card provided inside the digital camera.
After performing image processing such as gradation processing and sharpness enhancement processing on the stored digital image data, it is possible to reproduce an image obtained by shooting as a hard copy such as a print or as a soft copy on a display. . As described above, when reproducing an image obtained by a digital camera, it is expected that the image has the same high-quality image quality as a photograph printed from a negative film. For this reason, image data obtained by the digital camera is added with imaging information such as the presence or absence of a strobe at the time of acquiring the image, the type of illumination, etc., and is output. When performing image processing, the image data is added to the image data. There has been proposed an image reproducing method for performing more appropriate image processing on image data with reference to photographing information (Japanese Patent Laid-Open No. Hei 10-191246).

【0003】一方、デジタルカメラやスキャナにおいて
画像データを得るためには、所定のサンプリング配置に
より画像を捕捉する必要がある。このような画像を捕捉
するためのサンプリング配置としては、図3に示すよう
な画素配列において、○印の位置に信号値を有し×印の
位置には信号値を有さないように画像を捕捉する市松サ
ンプリングが知られている。この市松サンプリングは実
際には図18(a)に示すように画素が配列されてなる
ものであり、図18(b)に示すような画素配列(正方
サンプリングと称する)と比較すると、画素が密となる
ため同一の面積であれば得られる情報が多くなる。な
お、市松サンプリングの画像データは、市松状に光電変
換素子が配置されたCCDを有するデジタルカメラによ
り撮影を行う等により得られるが、デジタルカメラにお
いて正方状に光電変換素子が配置されたCCDを使用
し、1回の撮影において一度画像データを取り込んだ
後、CCDを斜め45度方向にずらして2回目の画像デ
ータを取り込むことによっても得ることができる。ま
た、正方状に光電変換素子が配置されたCCDにより得
られた画像データのサンプリングを市松状にすることに
よっても得ることができる。
On the other hand, in order to obtain image data in a digital camera or a scanner, it is necessary to capture an image by a predetermined sampling arrangement. As a sampling arrangement for capturing such an image, in a pixel array as shown in FIG. 3, an image is arranged such that a signal value is at a position of a mark and a signal value is not at a position of a mark. Checkered sampling to capture is known. This checkered sampling is actually made up of pixels arranged as shown in FIG. 18 (a). Compared with the pixel arrangement (referred to as square sampling) shown in FIG. 18 (b), the pixels are denser. Therefore, if the area is the same, more information can be obtained. The image data of the checkerboard sampling can be obtained by photographing with a digital camera having a CCD in which the photoelectric conversion elements are arranged in a checkerboard pattern. Alternatively, the image data can be obtained by capturing the image data once in one shooting, and then capturing the second image data by shifting the CCD obliquely by 45 degrees. Further, it can be obtained by sampling image data obtained by a CCD having photoelectric conversion elements arranged in a square shape in a checkered pattern.

【0004】しかしながら、CRTモニタやプリント用
紙等の画像出力媒体に出力する画像出力装置や上述した
ように画像データに対してシャープネス強調処理等を施
す画像処理装置においては、○印および×印の全ての位
置において信号値を有する正方サンプリングがなされた
画像データを表示対象あるいは処理対象としている。と
くに、上述した画像処理におけるシャープネス強調処理
においては、正方サンプリングの画像データに適した、
画像の縦方向および横方向に分離可能な処理を施してい
る。このため、市松サンプリングがなされた画像データ
については、○印の位置における信号値に対して補間演
算を施すことにより×印の位置における信号値を算出
し、画像データを市松サンプリングから正方サンプリン
グに変換した後に表示や画像処理を行っている。
However, in an image output apparatus for outputting to an image output medium such as a CRT monitor or print paper, or an image processing apparatus for performing sharpness enhancement processing or the like on image data as described above, all of the ○ marks and X marks are used. The square-sampled image data having the signal value at the position of is displayed or processed. In particular, in the sharpness enhancement processing in the above-described image processing, the image processing is suitable for square sampling image data.
Processing that can be separated in the vertical and horizontal directions of the image is performed. Therefore, for the image data on which the checkered sampling has been performed, the signal value at the position of the cross is calculated by performing an interpolation operation on the signal value at the position of the mark, and the image data is converted from the checkered sampling to the square sampling. After that, display and image processing are performed.

【0005】[0005]

【発明が解決しようとする課題】上述した市松サンプリ
ングされた画像データの周波数特性を2次元で表すと図
19(a)に示すような菱形状のレスポンスとなり、正
方サンプリングされた画像データの周波数特性は図19
(b)に示すような矩形状のレスポンスとなる。なお、
図19においてはfs/2が正方サンプリングされた画
像データのナイキスト周波数であり、図19(a)およ
び(b)においては、画像が再現可能な周波数帯域を実
線にて示している。ここで、市松サンプリングされた画
像データを正方サンプリングに変換したとしても、元の
画像情報を表現している周波数特性は図19(a)のま
ま変更されないものである。このため、市松サンプリン
グされた画像データに対して、正方サンプリングと同様
に画像の縦横方向に分離可能なシャープネス強調処理を
施すと、図19(b)の斜線に対応する、元々画像情報
を有さない周波数帯域が強調されるためにノイズが発生
し、その結果、処理を施すことにより得られた画像の画
質が劣化してしまうこととなる。
When the frequency characteristics of the checkered sampled image data described above are represented two-dimensionally, the response becomes a diamond-shaped response as shown in FIG. 19A, and the frequency characteristics of the square sampled image data are represented. Is FIG.
A rectangular response as shown in FIG. In addition,
In FIG. 19, fs / 2 is the Nyquist frequency of the square-sampled image data, and in FIGS. 19A and 19B, the frequency band in which the image can be reproduced is indicated by a solid line. Here, even if the image data sampled in a checkered pattern is converted to square sampling, the frequency characteristic expressing the original image information remains unchanged in FIG. For this reason, when image data sampled in a checkered pattern is subjected to sharpness enhancement processing that can be separated in the vertical and horizontal directions of the image in the same manner as the square sampling, original image information corresponding to the diagonal lines in FIG. Noise is generated due to the emphasis on the frequency band that does not exist, and as a result, the image quality of the image obtained by performing the processing is deteriorated.

【0006】本発明は上記事情に鑑みなされたものであ
り、ノイズを発生させることなくシャープネス強調処理
を施すことができるような画像データを取得できる画像
取得方法および装置、この画像取得方法および装置によ
り取得された画像データに対してシャープネス強調処理
を施す画像処理方法および装置、並びに画像取得方法お
よび画像処理方法をコンピュータに実行させるためのプ
ログラムを記録したコンピュータ読取り可能な記録媒体
を提供することを目的とするものである。
The present invention has been made in view of the above circumstances, and provides an image acquisition method and apparatus capable of acquiring image data capable of performing sharpness enhancement processing without generating noise, and an image acquisition method and apparatus. An image processing method and apparatus for performing sharpness enhancement processing on acquired image data, and a computer-readable recording medium on which a program for causing a computer to execute the image acquisition method and the image processing method is recorded. It is assumed that.

【0007】[0007]

【課題を解決するための手段】本発明による画像取得方
法は、画像を所定のサンプリング配置により捕捉して、
該画像を表す画像データを取得する画像取得方法におい
て、前記画像データに、前記所定のサンプリング配置に
関するサンプリング情報を付与することを特徴とするも
のである。
According to the present invention, there is provided an image acquiring method, comprising: acquiring an image by a predetermined sampling arrangement;
An image acquisition method for acquiring image data representing the image, wherein sampling information on the predetermined sampling arrangement is added to the image data.

【0008】ここで、「サンプリング情報を付与する」
方法としては、画像データのファイルヘッダにサンプリ
ング情報を記述する、画像データを記録する記録メディ
アに画像データとは別のファイルを作成してここにサン
プリング情報を記述する、複数の画像データを1つの記
録メディアに記録する際に、画像データに関する情報を
記述するファイルを作成し、このファイルにサンプリン
グ情報を記述する等種々の方法を採用することができ
る。
[0008] Here, "giving sampling information"
As a method, the sampling information is described in a file header of the image data, a file different from the image data is created on a recording medium for recording the image data, and the sampling information is described therein, When recording on a recording medium, various methods can be adopted, such as creating a file describing information about image data and describing sampling information in this file.

【0009】また、「サンプリング情報」としては、市
松サンプリングや正方サンプリングを区別することがで
きる情報であることが好ましく、市松サンプリングおよ
び正方サンプリングをそれぞれ表す記号、この記号に加
えて画像捕捉時の画素数、あるいは各サンプリング配置
の周波数特性を表す情報等を採用することができる。
The "sampling information" is preferably information capable of distinguishing between checkerboard sampling and square sampling. Symbols representing checkerboard sampling and square sampling, respectively, and, in addition to these symbols, pixels at the time of image capture. The number, or information indicating the frequency characteristics of each sampling arrangement can be employed.

【0010】本発明による画像処理方法は、本発明によ
る画像取得方法により取得された画像データに対してシ
ャープネス強調処理を施す画像処理方法であって、前記
サンプリング情報に応じて前記画像データに対して異な
るシャープネス強調処理を施して処理済み画像データを
得ることを特徴とするものである。
[0010] An image processing method according to the present invention is an image processing method for performing sharpness enhancement processing on image data obtained by the image obtaining method according to the present invention, and performs image processing on the image data in accordance with the sampling information. It is characterized in that processed image data is obtained by performing different sharpness enhancement processing.

【0011】ここで、「異なるシャープネス強調処理」
とは、サンプリング配置に応じてシャープネス強調処理
を縦横に分離可能な処理あるいは対角方向に分離可能な
処理というように、画像データにより表される画像上に
おいて処理を施す方向を異なるものとすること、1次元
シャープネス強調処理フィルタによりフィルタリング処
理を行う場合にはサンプリング配置に応じてフィルタリ
ング処理を施す方向を異なるものとすること等をいうも
のである。
Here, "different sharpness enhancement processing"
This means that the direction in which processing is performed on an image represented by image data is different, such as processing that can separate vertical and horizontal sharpness enhancement processing or processing that can be separated diagonally according to the sampling arrangement. In the case where the filtering process is performed by the one-dimensional sharpness enhancement filter, the direction in which the filtering process is performed is different depending on the sampling arrangement.

【0012】なお、本発明による画像処理方法において
は、前記異なるシャープネス強調処理が、前記画像デー
タの前記サンプリング配置に起因する周波数特性に応じ
た処理であることが好ましい。
[0012] In the image processing method according to the present invention, it is preferable that the different sharpness enhancement process is a process according to a frequency characteristic of the image data caused by the sampling arrangement.

【0013】本発明による画像取得装置は、画像を所定
のサンプリング配置により捕捉して、該画像を表す画像
データを取得する画像取得装置において、前記画像デー
タに、前記所定のサンプリング配置に関するサンプリン
グ情報を付与する付与手段を備えたことを特徴とするも
のである。
An image acquiring apparatus according to the present invention is an image acquiring apparatus for acquiring an image by a predetermined sampling arrangement and acquiring image data representing the image, wherein sampling information on the predetermined sampling arrangement is included in the image data. The present invention is characterized in that it is provided with an applying means for applying.

【0014】なお、本発明による画像取得装置において
は、前記サンプリング情報が、市松サンプリングおよび
正方サンプリングを区別する情報であることが好まし
い。
In the image acquisition apparatus according to the present invention, it is preferable that the sampling information is information for distinguishing between checkerboard sampling and square sampling.

【0015】本発明による画像処理装置は、本発明によ
る画像取得装置により取得された画像データに対してシ
ャープネス強調処理を施す処理手段を備えた画像処理装
置であって、前記処理手段は、前記サンプリング情報に
応じて前記画像データに対して異なるシャープネス強調
処理を施して処理済み画像データを得る手段であること
を特徴とするものである。
An image processing apparatus according to the present invention is an image processing apparatus comprising processing means for performing sharpness enhancement processing on image data obtained by the image obtaining apparatus according to the present invention, wherein the processing means A means for performing different sharpness enhancement processing on the image data according to information to obtain processed image data.

【0016】なお、本発明による画像処理装置において
は、前記処理手段は、前記異なるシャープネス強調処理
を、前記画像データの前記サンプリング配置に起因する
周波数特性に応じた処理とする手段であることが好まし
い。
In the image processing apparatus according to the present invention, it is preferable that the processing means is means for performing the different sharpness enhancement processing in accordance with a frequency characteristic caused by the sampling arrangement of the image data. .

【0017】また、画像を所定のサンプリング配置によ
り捕捉した際の、該所定のサンプリング配置に関するサ
ンプリング情報を付帯させたフォーマットの画像データ
を、コンピュータ読取り可能な記録媒体に記録して提供
してもよい。
Further, when an image is captured by a predetermined sampling arrangement, image data in a format accompanied by sampling information on the predetermined sampling arrangement may be recorded on a computer-readable recording medium and provided. .

【0018】なお、本発明による画像取得方法および画
像処理方法をコンピュータに実行させるためのプログラ
ムとして、コンピュータ読取り可能な記録媒体に記録し
て提供してもよい。
The image acquisition method and the image processing method according to the present invention may be provided by being recorded in a computer-readable recording medium as a program for causing a computer to execute the method.

【0019】また、本発明による画像処理装置をデジタ
ルカメラ等の撮像装置に設けてもよく、プリンタ等の出
力装置に設けてもよい。
Further, the image processing device according to the present invention may be provided in an image pickup device such as a digital camera, or may be provided in an output device such as a printer.

【0020】[0020]

【発明の効果】本発明による画像取得方法および装置に
よれば、画像捕捉時のサンプリング配置に関するサンプ
リング情報を画像データに付与するようにしたため、サ
ンプリング情報を参照することにより、本発明による画
像取得方法および装置により得られた画像データに対し
て画像捕捉時のサンプリング配置に応じて適切なシャー
プネス強調処理等の画像処理を施すことができる。
According to the image acquisition method and apparatus according to the present invention, the sampling information relating to the sampling arrangement at the time of image capture is added to the image data. Therefore, the image acquisition method according to the present invention can be performed by referring to the sampling information. In addition, image processing such as sharpness enhancement can be performed on image data obtained by the apparatus in accordance with the sampling arrangement at the time of image capture.

【0021】また、本発明による画像処理方法および装
置によれば、画像を捕捉する際の所定のサンプリング配
置に関するサンプリング情報に応じて、画像データに対
して異なるシャープネス強調処理を施すようにしたた
め、サンプリング配置に拘わらずノイズを発生させない
ようにシャープネス強調処理を施すことができ、これに
よりノイズのない高画質の画像を再現可能な処理済み画
像データを得ることができる。
Further, according to the image processing method and apparatus according to the present invention, different sharpness enhancement processing is performed on image data in accordance with sampling information relating to a predetermined sampling arrangement when capturing an image. Regardless of the arrangement, sharpness enhancement processing can be performed so as not to generate noise, whereby processed image data capable of reproducing high-quality images without noise can be obtained.

【0022】[0022]

【発明の実施の形態】以下図面を参照して本発明の実施
形態について説明する。
Embodiments of the present invention will be described below with reference to the drawings.

【0023】図1は本発明の実施形態による画像処理装
置を適用した画像出力システムの構成を示す概略ブロッ
ク図である。図1に示すように、本実施形態による画像
出力システムは、所定のサンプリング配置により画像を
捕捉することにより画像データS1を取得するととも
に、サンプリング配置に関するサンプリング情報Jを画
像データS1に付与して出力する画像取得手段6から出
力された画像データS1に対して処理を施すものであ
り、画像データS1を読出すための画像読出手段1と、
画像データS1に付与されたサンプリング情報Jに基づ
いて、画像取得手段6において画像データS1を捕捉し
た際のサンプリング配置が市松サンプリングか正方サン
プリングであるかを判別する判別手段2と、判別手段2
における判別結果に基づいて、画像データS1に対して
異なるシャープネス強調処理を施して処理済み画像デー
タS2を得るシャープネス強調処理手段3と、処理済み
画像データS2を再生する再生手段4とを備える。
FIG. 1 is a schematic block diagram showing the configuration of an image output system to which an image processing device according to an embodiment of the present invention is applied. As shown in FIG. 1, the image output system according to the present embodiment acquires image data S1 by capturing an image with a predetermined sampling arrangement, and adds sampling information J on the sampling arrangement to the image data S1 for output. Image reading means 1 for performing processing on image data S1 output from image acquiring means 6 to perform image reading;
Based on the sampling information J given to the image data S1, a determining unit 2 that determines whether the sampling arrangement when the image data S1 is captured by the image obtaining unit 6 is a checkerboard sampling or a square sampling, and a determining unit 2
A sharpness enhancement processing unit 3 that performs different sharpness enhancement processing on the image data S1 based on the determination result in to obtain processed image data S2, and a reproduction unit 4 that reproduces the processed image data S2.

【0024】図2は画像取得手段6の一例を示すブロッ
ク図である。図2に示すように画像取得手段6は例えば
デジタルカメラであり、シーンの画像を市松サンプリン
グにより捕捉して画像を表す画像データS0を得るCC
D7と、市松サンプリングの画像データS0に対して補
間演算を施して、画像データS0のサンプリング配置を
市松サンプリングから正方サンプリングに変換して正方
サンプリングの画像データS1を得る市松正方変換手段
8と、画像を捕捉した際のサンプリング配置に関する情
報をサンプリング情報Jとして、これを画像データS1
に付与してメモリカード等のメディア10に記録する記
録手段9とを備える。なお、CCD7が元々正方サンプ
リングである場合には、画像取得手段6には市松正方変
換手段8は設けられず、CCD7において得られた画像
データS0が、サンプリング情報Jとともにそのまま画
像データS1としてメディア10に記録される。
FIG. 2 is a block diagram showing an example of the image acquisition means 6. As shown in FIG. 2, the image acquisition unit 6 is, for example, a digital camera, and captures an image of a scene by checkerboard sampling to obtain image data S0 representing the image.
D7, a checkerboard square conversion unit 8 that performs an interpolation operation on the checkerboard-sampled image data S0 to convert the sampling arrangement of the image data S0 from the checkerboard sampling to the squarer sampling to obtain the squarer-sampled image data S1; The information on the sampling arrangement when the image is captured is referred to as sampling information J, and this is referred to as image data S1.
And recording means 9 for recording the data on a medium 10 such as a memory card. When the CCD 7 is originally square sampling, the image acquisition means 6 is not provided with the checkerboard square conversion means 8 and the image data S0 obtained by the CCD 7 is used as the image data S1 together with the sampling information J as the media data S1. Will be recorded.

【0025】一方、画像取得手段6が画像を光電的に読
み取るスキャナである場合に、画像を市松サンプリング
により捕捉するには、1ラインの走査毎にサンプルホー
ルドする位置を半画素ずらすことにより、得られる画像
データS0は市松サンプリングされたものとなる。この
場合、スキャナには図2に示す市松正方変換手段8が設
けられ、これにより画像データS0のサンプリング配置
が市松サンプリングから正方サンプリングに変換され
て、正方サンプリングの画像データS1が得られる。
On the other hand, when the image acquisition means 6 is a scanner that reads the image photoelectrically, the image can be captured by checkerboard sampling by shifting the sample and hold position by half a pixel for each scan of one line. The obtained image data S0 is sampled in a checkered pattern. In this case, the scanner is provided with a checkerboard square conversion unit 8 shown in FIG. 2, whereby the sampling arrangement of the image data S0 is converted from checkerboard sampling to square sampling, and square sampling image data S1 is obtained.

【0026】なお、画像データS0が市松サンプリング
されたものである場合、図3に示すように○の画素位置
には信号値を有するが、×の画素位置には信号値を有さ
ないものとなる。したがって、市松正方変換手段8にお
いては○画素位置の信号値を用いて補間演算を行って、
×画素位置の信号値が求められる。
In the case where the image data S0 is sampled in a checkered pattern, as shown in FIG. 3, it is assumed that a pixel value of a circle has a signal value but a pixel value of a cross does not have a signal value. Become. Therefore, the Ichimatsu square conversion means 8 performs an interpolation operation using the signal value at the pixel position,
X The signal value at the pixel position is obtained.

【0027】ここで、画像データS0が市松サンプリン
グされた場合の周波数特性を2次元で表すと図4に示す
ような菱形のレスポンスを有する特性となる。図4にお
いては市松サンプリングされた画像データS0が表現可
能な周波数帯域を実線で示しており、画像データS0を
正方サンプリングに変換しても、元の画像を表現してい
る周波数帯域は変更されないため、この周波数特性も変
更されないこととなる。
Here, when the frequency characteristic when the image data S0 is sampled in a checkered manner is represented in two dimensions, the frequency characteristic has a diamond-shaped response as shown in FIG. In FIG. 4, the frequency band in which the checkered sampled image data S0 can be represented is shown by a solid line, and even if the image data S0 is converted to square sampling, the frequency band representing the original image is not changed. This frequency characteristic is not changed.

【0028】記録手段9は、画像データS1にサンプリ
ング情報Jを付与してメディア10に記録するものであ
る。この付与方法としては、画像データS1のファイル
ヘッダにサンプリング情報Jを記述する、メディア10
内の別々のファイルに画像データS1およびサンプリン
グ情報Jを記述する、メディア10に複数の画像データ
S1を記録する際に、画像データS1に関する情報を記
述するファイルを作成し、このファイルにサンプリング
情報Jを記述する等種々の方法を採用することができ
る。
The recording means 9 adds the sampling information J to the image data S1 and records it on the medium 10. As a method of providing the media 10, the sampling information J is described in the file header of the image data S 1.
When the plurality of image data sets S1 are recorded on the medium 10 in which the image data sets S1 and the sampling information J are described in separate files, a file describing the information about the image data sets S1 is created. Various methods can be adopted, such as describing

【0029】ここで、サンプリング情報Jとしては、市
松サンプリングおよび正方サンプリングの区別を表す記
号、市松サンプリングおよび正方サンプリングの区別を
表す記号と画像捕捉時の画素数、画像データS0の周波
数特性を示す情報等が挙げられる。なお、画像捕捉時の
画素数が分かれば画像データS0により表される画像の
ナイキスト周波数を求めることができ、かつ画像データ
S0のサンプリング配置が分かれば、ナイキスト周波数
に基づいて例えば図4に示すような周波数特性を求める
ことができる。また、周波数特性を示す情報としては例
えば図4に示す周波数特性において、その特性の頂点と
なる4点の座標値を用いることができ、この座標値が分
かれば図4に示すような周波数特性を求めることができ
る。
Here, as the sampling information J, a symbol indicating the distinction between the checkerboard sampling and the square sampling, a symbol indicating the distinction between the checkerboard sampling and the square sampling, the number of pixels at the time of image capture, and information indicating the frequency characteristics of the image data S0. And the like. Note that if the number of pixels at the time of capturing the image is known, the Nyquist frequency of the image represented by the image data S0 can be obtained, and if the sampling arrangement of the image data S0 is known, the Nyquist frequency is used as shown in FIG. Frequency characteristics can be obtained. Further, as the information indicating the frequency characteristic, for example, in the frequency characteristic shown in FIG. 4, coordinate values of four points which are the vertices of the characteristic can be used, and if these coordinate values are known, the frequency characteristic as shown in FIG. You can ask.

【0030】なお、サンプリング情報Jとしてはこれら
に限定されるものではなく、画像データS0が正方サン
プリングである場合には、何ら情報を付与しないもので
あってもよく、画像取得手段6の機種に応じてサンプリ
ング配置が特定できる場合には、その機種に関する情報
であってもよい。
Note that the sampling information J is not limited to these. If the image data S0 is square sampling, no information may be added to the image data S0. If the sampling arrangement can be specified accordingly, it may be information on the model.

【0031】図1に戻り、判別手段2は、サンプリング
情報Jに基づいて、画像の捕捉時におけるサンプリング
配置を判別する。ここで、サンプリング情報Jが市松サ
ンプリングおよび正方サンプリングを表す記号であれば
その記号を判別し、サンプリング情報Jにこの記号に加
えて画像捕捉時の画素数が含まれている場合には、記号
を判別するとともに画像データS1の周波数特性も判別
する。また、サンプリング情報Jが画像データS1の周
波数特性を示す情報である場合には、その周波数特性に
より表されるレスポンスの形状からサンプリング配置を
判別する。
Returning to FIG. 1, the judging means 2 judges the sampling arrangement at the time of capturing an image based on the sampling information J. Here, if the sampling information J is a symbol representing checkerboard sampling and square sampling, the symbol is determined. If the sampling information J includes the number of pixels at the time of image capture in addition to this symbol, the symbol is replaced. At the same time, the frequency characteristics of the image data S1 are also determined. When the sampling information J is information indicating the frequency characteristics of the image data S1, the sampling arrangement is determined from the response shape represented by the frequency characteristics.

【0032】シャープネス強調処理手段3は、判別手段
2における判別結果に応じて画像データS1に対して異
なるシャープネス強調処理を施して処理済み画像データ
S2を得るものである。まず、画像を捕捉した際のサン
プリング配置が正方サンプリングであると判別された場
合には、通常のシャープネス強調処理(以下第1のシャ
ープネス強調処理とする)を行う。ここで、第1のシャ
ープネス強調処理とは、画像データS1により表される
画像の画素配置(図5参照)において、X方向およびY
方向に分離可能な処理のことをいう。具体的には、まず
X方向に対して下記の式(1)によりシャープネス強調
処理を施した後に、Y方向に対して同様にシャープネス
強調処理を施す処理であってもよく、さらにこの処理に
おいてボケ画像データSusを算出する際に、M×Mの矩
形のマスクを用いる処理であってもよい。さらに、図6
に示すような周波数特性を有する1次元フィルタによっ
て、画像データS1のX方向およびY方向に順にフィル
タリング処理を施すことにより、シャープネスを強調す
る処理であってもよい。
The sharpness enhancement processing means 3 performs different sharpness enhancement processing on the image data S1 according to the determination result of the determination means 2 to obtain processed image data S2. First, when it is determined that the sampling arrangement at the time of capturing an image is square sampling, normal sharpness enhancement processing (hereinafter referred to as first sharpness enhancement processing) is performed. Here, the first sharpness enhancement processing refers to the X direction and the Y direction in the pixel arrangement of the image represented by the image data S1 (see FIG. 5).
A process that can be separated in a direction. Specifically, first, a sharpness enhancement process may be performed in the X direction by the following equation (1), and then a sharpness enhancement process may be similarly performed in the Y direction. When calculating the image data Sus, a process using an M × M rectangular mask may be used. Further, FIG.
The filtering may be performed in the X direction and the Y direction of the image data S1 in order by a one-dimensional filter having the frequency characteristic shown in FIG.

【0033】 S2=S1+β(S1−Sus) (1) 但し、β:強調係数 Sus:S1のボケ画像データであり、例えばSus=ΣS
1/M×M(Mはマスクサイズ) なお、サンプリング情報Jから画像データS1の周波数
特性が認識できる場合には、その周波数特性に応じてマ
スクサイズや1次元フィルタのレスポンスを変更するこ
とができ、これにより画像データS1の周波数特性に応
じたシャープネス強調処理を行うことができる。
S2 = S1 + β (S1−Sus) (1) where β: enhancement coefficient Sus: blurred image data of S1, for example, Sus = ΣS
1 / M × M (M is the mask size) If the frequency characteristics of the image data S1 can be recognized from the sampling information J, the mask size and the response of the one-dimensional filter can be changed according to the frequency characteristics. Thus, sharpness enhancement processing according to the frequency characteristics of the image data S1 can be performed.

【0034】ここで、正方サンプリングの周波数特性を
図7(a)に示す。図7(a)に示すように正方サンプ
リングの場合の周波数特性はレスポンスが矩形状となる
が、第1のシャープネス強調処理により、図7(b)の
斜線部分に示す周波数帯域が強調されて、画像データS
1のシャープネスが強調され、処理済み画像データS2
が得られることとなる。
FIG. 7A shows the frequency characteristics of the square sampling. As shown in FIG. 7A, the frequency characteristic in the case of square sampling has a rectangular response, but the first sharpness enhancement process emphasizes the frequency band indicated by the hatched portion in FIG. Image data S
1 is enhanced and the processed image data S2
Is obtained.

【0035】一方、画像を捕捉した際のサンプリング配
置が市松サンプリングであると判別された場合には、正
方サンプリングの場合とは異なり、画像データS1によ
り表される画像の画素配置(図5参照)において、対角
方向に分離可能なシャープネス強調処理(以下第2のシ
ャープネス強調処理とする)を行う。例えば、まずX=
Y方向(図5の矢印A方向)に対して上記の式(1)に
よりシャープネス強調処理を施した後に、X=−Y方向
(図5の矢印B方向)に対して同様にシャープネス強調
処理を施す処理であってもよく、さらにこの処理におい
てボケ画像データSusを算出する際に、図8に示すよう
に菱形のマスクを用いる処理であってもよい。さらに、
図6に示すような周波数特性を有する1次元フィルタに
より、矢印A方向および矢印B方向に順にフィルタリン
グ処理を施すことにより、シャープネスを強調する処理
であってもよい。
On the other hand, when it is determined that the sampling arrangement at the time of capturing the image is the checkerboard sampling, unlike the square sampling, the pixel arrangement of the image represented by the image data S1 (see FIG. 5). , A sharpness enhancement process that can be separated in the diagonal direction (hereinafter referred to as a second sharpness enhancement process) is performed. For example, first X =
After performing the sharpness enhancement processing in the Y direction (the direction of the arrow A in FIG. 5) by the above equation (1), the sharpness enhancement processing is similarly performed in the X = −Y direction (the direction of the arrow B in FIG. 5). This processing may be performed, and when calculating the blurred image data Sus in this processing, a processing using a diamond-shaped mask as shown in FIG. 8 may be performed. further,
The sharpness may be enhanced by performing a filtering process in the direction of arrow A and the direction of arrow B in order by a one-dimensional filter having a frequency characteristic as shown in FIG.

【0036】ここで、市松サンプリングの周波数特性は
図4に示すものであり、第2のシャープネス強調処理に
より、図9に示すように斜線部分の周波数帯域が強調さ
れて、画像データS1のシャープネスが強調され、処理
済み画像データS2が得られることとなる。
Here, the frequency characteristic of the checkerboard sampling is as shown in FIG. 4, and the second sharpness enhancement process emphasizes the frequency band of the hatched portion as shown in FIG. 9 to reduce the sharpness of the image data S1. The emphasized and processed image data S2 is obtained.

【0037】ここで、図7と図9とを比較すると、市松
サンプリングにおいては、正方サンプリングの特性にお
ける4角部分の情報が欠落しているため、正方サンプリ
ングと同様のシャープネス強調処理を施すと、欠落した
部分の情報が強調されて、処理済み画像データS2によ
り表される画像上に、強調された情報がノイズとして現
れることとなるが、上記第2のシャープネス強調処理を
施すことにより、市松サンプリングの周波数帯域の特性
に応じたシャープネス強調処理が施されるため、処理済
み画像データS2を再生することにより得られる画像に
おいて、ノイズの発生を防止することができる。
Here, comparing FIG. 7 and FIG. 9, it is found that, in the checkerboard sampling, the information of the square portion in the square sampling characteristic is missing, so that sharpness enhancement processing similar to the square sampling is performed. The information of the missing part is emphasized, and the emphasized information appears as noise on the image represented by the processed image data S2. However, by performing the second sharpness emphasis processing, the checkerboard sampling is performed. Since the sharpness enhancement process is performed according to the characteristics of the frequency band described above, it is possible to prevent noise from occurring in an image obtained by reproducing the processed image data S2.

【0038】再生手段4は、デジタル写真銀塩プリン
タ、インクジェットプリンタ等のハードコピーデバイ
ス、CRT、液晶ディスプレイ等のソフトコピーデバイ
ス等、処理済み画像データS2を可視像として再生可能
なものである。
The reproducing means 4 can reproduce the processed image data S2 as a visible image, such as a hard copy device such as a digital photographic silver halide printer and an ink jet printer, and a soft copy device such as a CRT and a liquid crystal display.

【0039】次いで、本実施形態の動作について説明す
る。図10は本実施形態の動作を示すフローチャートで
ある。図10に示すように、まず画像取得手段6におい
て取得された画像データS1およびサンプリング情報J
が画像読出手段1において読み出されて、シャープネス
強調処理手段3および判別手段2に入力される(ステッ
プS1)。判別手段2においては、サンプリング情報J
に基づいて画像データS0を捕捉した際のサンプリング
配置が市松サンプリングであるか正方サンプリングであ
るかが判別される(ステップS2)。そして、判別結果
が正方サンプリングであった場合には(ステップS
3)、シャープネス強調処理手段3において、画像デー
タS0に対して第1のシャープネス強調処理が施されて
処理済み画像データS2が得られる(ステップS4)。
処理済み画像データS2は再生手段4において再生され
(ステップS5)、処理を終了する。
Next, the operation of this embodiment will be described. FIG. 10 is a flowchart showing the operation of the present embodiment. As shown in FIG. 10, first, the image data S1 and the sampling information J acquired by the image acquisition unit 6 are obtained.
Is read by the image reading means 1 and input to the sharpness enhancement processing means 3 and the determination means 2 (step S1). In the determination means 2, the sampling information J
It is determined whether the sampling arrangement at the time of capturing the image data S0 is checkerboard sampling or square sampling based on (step S2). If the result of the determination is square sampling (step S
3) The first sharpness enhancement processing is performed on the image data S0 by the sharpness enhancement processing means 3 to obtain processed image data S2 (step S4).
The processed image data S2 is reproduced by the reproducing means 4 (step S5), and the processing is terminated.

【0040】一方、判別結果が市松サンプリングであっ
た場合にはステップS3が否定され、画像データS1に
対して第2のシャープネス強調処理が施されて処理済み
画像データS2が得られる(ステップS6)。処理済み
画像データS2は再生手段4において再生され(ステッ
プS5)、処理を終了する。
On the other hand, if the discrimination result is the checkerboard sampling, step S3 is denied, and the second sharpness enhancement process is performed on the image data S1 to obtain the processed image data S2 (step S6). . The processed image data S2 is reproduced by the reproducing means 4 (step S5), and the processing is terminated.

【0041】このように、本実施形態においては、画像
を捕捉する際のサンプリング情報Jに応じて、画像デー
タS1に対して異なるシャープネス強調処理を施すよう
にしたため、画像データS1が市松サンプリングにより
サンプリングされたものであっても、ノイズを発生させ
ないようにシャープネス強調処理を施すことができ、こ
れによりノイズのない高画質の画像を再現可能な処理済
み画像データS2を得ることができる。
As described above, in the present embodiment, different sharpness enhancement processing is performed on the image data S1 in accordance with the sampling information J at the time of capturing an image. Therefore, the image data S1 is sampled by checkerboard sampling. Even if the image data is processed, sharpness enhancement processing can be performed so as not to generate noise, so that processed image data S2 that can reproduce a high-quality image without noise can be obtained.

【0042】なお、上記実施形態においては、画像デー
タS0が市松サンプリングである場合、画像取得手段6
において正方サンプリングに変換していたが、画像取得
手段6において正方サンプリングに変換することなく、
市松サンプリングのまま画像データS0をメディア10
に記録するようにしてもよい。この場合、画像処理装置
においては、シャープネス強調処理手段3の前段に市松
サンプリングを正方サンプリングに変換するための補間
手段を設け、ここで正方サンプリングの画像データS1
を得ることができる。そして、補間手段において市松サ
ンプリングを正方サンプリングに変換したか否かを判別
手段2において判別することにより、画像を捕捉した際
のサンプリング配置が市松サンプリングであるか正方サ
ンプリングであるかを判別して、シャープネス強調処理
手段3におけるシャープネス強調処理を切り替えること
ができる。
In the above embodiment, when the image data S0 is a checkered sampling, the image acquisition means 6
Has been converted to square sampling, but the image acquisition means 6 does not convert to square sampling.
The image data S0 is stored in the media 10 with the checkered sampling.
May be recorded. In this case, the image processing apparatus is provided with an interpolation means for converting the checkered sampling into the square sampling before the sharpness enhancement processing means 3, and the square sampling image data S1
Can be obtained. Then, by determining whether or not the checkerboard sampling is converted to square sampling by the interpolator, the determiner 2 determines whether the sampling arrangement at the time of capturing the image is checkerboard sampling or square sampling, The sharpness enhancement processing in the sharpness enhancement processing means 3 can be switched.

【0043】また、上記実施形態においては画像取得手
段6において取得した画像データS1をサンプリング情
報Jとともにメディア10に記録して、画像読出手段1
においてデータを読み出しているが、画像データS1を
サンプリング情報Jとともにネットワークを介して画像
読出手段1に転送してもよい。この場合、画像取得手段
6の記録手段9に代えて、画像取得手段6と画像読出手
段1とを接続するためのインターフェイスが用いられ
る。
Further, in the above embodiment, the image data S1 obtained by the image obtaining means 6 is recorded on the medium 10 together with the sampling information J, and the image reading means 1
, The image data S1 may be transferred to the image reading means 1 via the network together with the sampling information J. In this case, an interface for connecting the image acquiring unit 6 and the image reading unit 1 is used instead of the recording unit 9 of the image acquiring unit 6.

【0044】次いで、本発明による画像取得装置におい
て得られたサンプリング情報を用いて画像データに対し
て処理を行う画像処理装置の他の実施形態について説明
する。図11は本発明の他の実施形態による画像処理装
置を適用した画像出力システムの構成を示す概略ブロッ
ク図である。図11に示すように、この画像出力システ
ムは、画像取得手段6から出力された画像データS1に
対して処理を施すものであり、上記図1に示す実施形態
と同様の画像読出手段1、判別手段2、および再生手段
4と、判別手段2における判別結果に基づいて、画像デ
ータS1に対して後述する変換処理を含む画像処理を施
して処理済み画像データS3を得る画像処理手段23と
を備える。なお、他の実施形態の画像取得手段6の市松
正方変換手段8においては、例えば上記特開平5−14
5857に記載されたように○画素位置の信号値を用い
て図12に示すような線形補間フィルタにより補間演算
が行われて、×画素位置の信号値が求められ、正方サン
プリングの画像データS1が得られるものとする。
Next, another embodiment of the image processing apparatus for processing image data using the sampling information obtained by the image acquisition apparatus according to the present invention will be described. FIG. 11 is a schematic block diagram showing a configuration of an image output system to which an image processing device according to another embodiment of the present invention is applied. As shown in FIG. 11, the image output system performs processing on the image data S1 output from the image acquisition unit 6, and performs image processing similar to that of the embodiment shown in FIG. Means 2, a reproducing means 4, and an image processing means 23 for performing image processing including a conversion process to be described later on the image data S1 to obtain processed image data S3 based on the result of the judgment by the judging means 2. . It should be noted that in the checker square conversion unit 8 of the image acquisition unit 6 of another embodiment, for example,
As described in 5857, an interpolation operation is performed by using a linear interpolation filter as shown in FIG. 12 using the signal value of the pixel position, the signal value of the pixel position is obtained, and the square sampling image data S1 is obtained. Shall be obtained.

【0045】画像処理手段23は、判別手段2における
判別結果に応じて画像データS1に対して下記のように
して画像処理を施して処理済み画像データS3を得るも
のである。図13は画像処理手段23の構成を示す概略
ブロック図である。図13に示すように、画像処理手段
23は、画像取得手段6において画像を捕捉した際のサ
ンプリング配置が市松サンプリングであると判別された
場合に、画像データS1の○画素位置の信号値のみを用
いて、画像データS1に対して後述する補間フィルタF
0による補間演算を施して、新たな正方サンプリングの
画像データS1′を得る変換処理手段12と、画像デー
タS1′に対して階調処理、シャープネス強調処理等の
画像処理を施して処理済み画像データS3を得る処理手
段13とを備える。なお、変換処理手段12は画像を捕
捉した際のサンプリング配置が正方サンプリングである
と判別された場合には、何ら処理を行うことなく画像デ
ータS1をそのまま出力するものである。
The image processing means 23 performs image processing on the image data S1 in accordance with the result of the discrimination by the discriminating means 2 as described below to obtain processed image data S3. FIG. 13 is a schematic block diagram showing the configuration of the image processing means 23. As shown in FIG. 13, when the image acquisition unit 6 determines that the sampling arrangement at the time of capturing the image is the checkerboard sampling, the image processing unit 23 outputs only the signal value at the pixel position of the image data S1. The interpolation filter F described later is used for the image data S1.
A conversion processing means 12 for performing an interpolation operation by 0 to obtain new square-sampled image data S1 '; and an image data S1' for which image processing such as gradation processing and sharpness enhancement processing has been performed. Processing means 13 for obtaining S3. When it is determined that the sampling arrangement at the time of capturing the image is square sampling, the conversion processing means 12 outputs the image data S1 without performing any processing.

【0046】変換処理手段12においては、以下のよう
にして画像データS1に対して補間演算が施される。図
3に示すように、市松サンプリングされた画像データS
0は、○画素位置においては信号値を有するが、×画素
位置においては信号値を有さないものである。一方、正
方サンプリングの画像データS1は×画素位置の信号値
を有するが、これは画像取得手段6において図12に示
す特性を有する線形の補間フィルタを用いた補間演算に
より求められたものであることから、画像データS1に
より表される画像はボケが大きいものとなっている。こ
のため、変換処理手段12は、図13に示す係数を有す
る補間フィルタF0により、画像取得手段6において取
得された○画素位置の信号値のみを用いて画像データS
1に対してフィルタリング処理を施して×画素位置の信
号値を求め、これを画像データS1における×画素位置
の信号値と置き換えることにより、新たな正方サンプリ
ングされた画像データS1′を得るものである。なお、
このフィルタリング処理とは、補間フィルタF0のフィ
ルタ係数を、○画素位置における信号値に畳み込むこと
をいう。
The conversion processing means 12 performs an interpolation operation on the image data S1 as follows. As shown in FIG. 3, the checkered sampled image data S
0 indicates that the pixel has a signal value at the pixel position, but does not have a signal value at the pixel position. On the other hand, the square-sampling image data S1 has a signal value at the x pixel position, which is obtained by the image acquisition means 6 by an interpolation operation using a linear interpolation filter having the characteristics shown in FIG. Therefore, the image represented by the image data S1 has a large blur. For this reason, the conversion processing means 12 uses the interpolation filter F0 having the coefficients shown in FIG.
1 to obtain a signal value at the x pixel position by replacing the signal value with the signal value at the x pixel position in the image data S1, thereby obtaining new square sampled image data S1 '. . In addition,
This filtering processing refers to convolving the filter coefficient of the interpolation filter F0 with the signal value at the pixel position.

【0047】補間フィルタF0は以下のようにして作成
される。まず、4画素の中点における信号値を求めるた
めの1次元のCubicスプライン補間演算の補間係数は、
−1/16,9/16,9/16,−1/16であるた
め、これを2次元に展開すると図14に示すように4×
4の係数行列からなる補間フィルタとなる。そして、こ
の補間フィルタのフィルタ係数の配置を45度回転させ
ることにより、図13に示すフィルタ係数の配置を有す
る補間フィルタF0が得られる。
The interpolation filter F0 is created as follows. First, the interpolation coefficient of the one-dimensional Cubic spline interpolation operation for finding the signal value at the midpoint of four pixels is
Since they are -1/16, 9/16, 9/16, and -1/16, when these are expanded in two dimensions, as shown in FIG.
4 is an interpolation filter composed of four coefficient matrices. Then, by rotating the arrangement of the filter coefficients of the interpolation filter by 45 degrees, an interpolation filter F0 having the arrangement of the filter coefficients shown in FIG. 13 is obtained.

【0048】ここで、Cubicスプライン補間演算のよう
に高次の補間演算は、画像をぼかすことなく、かつ元の
画像の再現範囲を損なうことなく、画像を補間すること
ができるものである。図3に示す市松サンプリングは、
×印の位置にも信号値を有する正方サンプリングと比較
すると、画像の周波数特性は45度回転した方向に傾斜
しているものとなる。このため、図14に示すCubicス
プライン補間演算を行う補間フィルタのフィルタ係数の
配置を45度回転させた図13に示す補間フィルタF0
により、画像データS1の○画素位置の信号値のみを用
いて補間演算を行えば、得られた画像データS1′によ
り表される画像は、正方サンプリングされた画像データ
に対して図14に示す補間フィルタによるフィルタリン
グ処理を施した場合と同様に、画像のボケおよび元の画
像の再現範囲の欠落のないものとなる。
Here, a higher-order interpolation operation such as a Cubic spline interpolation operation can interpolate an image without blurring the image and without impairing the reproduction range of the original image. The checkered sampling shown in FIG.
Compared with the square sampling having a signal value also at the position of the cross, the frequency characteristic of the image is inclined in a direction rotated by 45 degrees. Therefore, the interpolation filter F0 shown in FIG. 13 obtained by rotating the arrangement of the filter coefficients of the interpolation filter performing the Cubic spline interpolation calculation shown in FIG.
Accordingly, if the interpolation operation is performed using only the signal value at the pixel position of the image data S1, the image represented by the obtained image data S1 'can be interpolated as shown in FIG. As in the case where the filtering process by the filter is performed, there is no blurring of the image and no loss of the reproduction range of the original image.

【0049】次いで、他の実施形態の動作について説明
する。図15は他の実施形態の動作を示すフローチャー
トである。図15に示すように、まず画像取得手段6に
おいて取得された画像データS1およびサンプリング情
報Jが画像読出手段1において読み出されて、画像処理
手段23および判別手段2に入力される(ステップS1
1)。判別手段2においては、サンプリング情報Jに基
づいて、画像取得手段6において画像を捕捉した際のサ
ンプリング配置が市松サンプリングであるか正方サンプ
リングであるかが判別される(ステップS12)。そし
て、判別結果が正方サンプリングであった場合には(ス
テップS13)、画像処理手段23において、画像デー
タS1に対して処理手段13における画像処理のみが施
されて処理済み画像データS3が得られる(ステップS
14)。処理済み画像データS3は再生手段4において
再生され(ステップS15)、処理を終了する。
Next, the operation of another embodiment will be described. FIG. 15 is a flowchart showing the operation of another embodiment. As shown in FIG. 15, first, the image data S1 and the sampling information J obtained by the image obtaining unit 6 are read by the image reading unit 1 and input to the image processing unit 23 and the determination unit 2 (Step S1).
1). The discriminating means 2 discriminates, based on the sampling information J, whether the sampling arrangement when the image is captured by the image acquiring means 6 is checkerboard sampling or square sampling (step S12). If the result of the determination is square sampling (step S13), the image processing unit 23 performs only image processing in the processing unit 13 on the image data S1 to obtain processed image data S3 (step S13). Step S
14). The processed image data S3 is reproduced by the reproducing means 4 (step S15), and the processing ends.

【0050】一方、判別結果が市松サンプリングであっ
た場合にはステップS13が否定され、変換処理手段1
2において画像データS1に対して補間フィルタF0に
よる補間演算が施されて新たな正方サンプリングの画像
データS1′が得られる(ステップS16)。そして、
新たな正方サンプリングの画像データS1′に対して処
理手段13において画像処理が施されて処理済み画像デ
ータS3が得られる(ステップS14)。処理済み画像
データS3は再生手段4において再生され(ステップS
15)、処理を終了する。
On the other hand, if the result of the determination is checkerboard sampling, step S13 is negative, and the conversion processing means 1
In step 2, an interpolation operation is performed on the image data S1 by the interpolation filter F0 to obtain new square-sampled image data S1 '(step S16). And
Image processing is performed by the processing means 13 on the new square-sampled image data S1 'to obtain processed image data S3 (step S14). The processed image data S3 is reproduced by the reproducing means 4 (Step S
15), end the processing.

【0051】このように、他の実施形態においては、画
像を捕捉する際のサンプリング情報Jに基づいて、市松
サンプリングにより画像が捕捉されたものであると判別
された場合には、画像取得手段6において行われた補間
演算とは異なる補間フィルタF0を用いた補間演算によ
り、×画素位置の信号値を生成して新たな正方サンプリ
ングの画像データS1′を得るようにしたため、新たな
正方サンプリングの画像データS1′は、画像データS
1と比較して、画像のボケが少ないものとなる。したが
って、この新たな画像データS1′に対して画像処理を
施すことにより、ボケが少ない高画質の画像を得ること
ができる。
As described above, in another embodiment, if it is determined that an image has been captured by checkerboard sampling based on the sampling information J at the time of capturing the image, the image acquisition means 6 A new square sampling image data S1 'is obtained by generating a signal value at the x pixel position by an interpolation calculation using an interpolation filter F0 different from the interpolation calculation performed in the above, so that a new square sampling image is obtained. The data S1 'is the image data S
As compared with 1, the image is less blurred. Therefore, by performing image processing on the new image data S1 ', a high-quality image with less blur can be obtained.

【0052】なお、上記他の実施形態においては、変換
処理手段12においては、図13に示すような補間フィ
ルタF0により補間演算を行っているが、図16に示す
ように0を用いてフィルタ係数が市松状に配置された補
間フィルタとしてもよい。また、図17に示すように補
間フィルタF0のフィルタ係数の間に0を補間した正方
状の補間フィルタとしてもよい。ここで、図16,17
に示す補間フィルタを使用すると、0を乗じるための計
算量が多くなるが、例えば装置にDSP(Digital Sign
al Processor)のような積和演算専用の演算素子を実装
する場合には、単純な積和演算のみにより計算を行った
方が、より高速に処理を行うことができる。したがっ
て、このような積和演算専用の演算素子を用いることに
より、演算量が増えても演算時間を増加させることなく
補間フィルタF0によりフィルタリング処理を行って、
正方サンプリングの画像データS1を得ることができ
る。
In the other embodiment, the conversion processing means 12 performs the interpolation operation using the interpolation filter F0 as shown in FIG. 13. However, as shown in FIG. May be interpolated filters arranged in a checkered pattern. Further, as shown in FIG. 17, a square interpolation filter in which 0 is interpolated between the filter coefficients of the interpolation filter F0 may be used. Here, FIGS.
When the interpolation filter shown in (1) is used, the amount of calculation for multiplying by 0 increases. For example, a DSP (Digital Sign
(Al Processor), when a calculation element dedicated to the product-sum operation is implemented, the calculation can be performed at higher speed by performing the calculation only by a simple product-sum operation. Therefore, by using such an operation element dedicated to the product-sum operation, even if the operation amount increases, the filtering process is performed by the interpolation filter F0 without increasing the operation time.
The square sampling image data S1 can be obtained.

【0053】また、上記他の実施形態においては、Cubi
cスプライン補間演算を行うための補間フィルタを使用
しているが、Bスプライン補間演算、ラグランジェ補間
演算等の高次の補間演算を行うための補間フィルタであ
れば、いかなるものをも適用することができる。また、
4×4の補間フィルタを使用しているが、これに限定さ
れるものではなく、N,Mのいずれか一方が3以上とな
る補間フィルタであれば、いかなるフィルタをも適用す
ることができる。
In the above other embodiment, Cubi
c Although an interpolation filter is used to perform spline interpolation, any interpolation filter that performs higher-order interpolation, such as B-spline interpolation or Lagrange interpolation, should be used. Can be. Also,
Although a 4 × 4 interpolation filter is used, the present invention is not limited to this, and any filter can be used as long as one of N and M is 3 or more.

【0054】さらにまた、上記各実施形態においては、
本発明による画像処理装置を画像出力システムに設けて
いるが、デジタルカメラやフイルムから画像を読み取る
スキャナ等の撮像装置に設けてもよく、これらの撮像装
置において得られた画像データを再生するモニタやプリ
ンタ等の出力装置に設けてもよい。また、画像処理装置
単体として用いてもよいことはもちろんである。
Further, in each of the above embodiments,
Although the image processing device according to the present invention is provided in the image output system, the image processing device may be provided in an imaging device such as a digital camera or a scanner that reads an image from a film, and a monitor that reproduces image data obtained by these imaging devices and It may be provided in an output device such as a printer. Of course, the image processing apparatus may be used alone.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施形態による画像処理装置を適用し
た画像出力システムの構成を示す概略ブロック図
FIG. 1 is a schematic block diagram illustrating a configuration of an image output system to which an image processing device according to an embodiment of the present invention is applied.

【図2】画像取得手段の構成を示す概略ブロック図FIG. 2 is a schematic block diagram illustrating a configuration of an image acquisition unit.

【図3】市松サンプリングされた画像データの画素配置
を示す図
FIG. 3 is a diagram showing a pixel arrangement of image data sampled in a checkered pattern;

【図4】市松サンプリングの周波数特性を示す図FIG. 4 is a diagram showing frequency characteristics of checkerboard sampling;

【図5】正方サンプリングの画像データの画素配置を示
す図
FIG. 5 is a diagram showing a pixel arrangement of image data of square sampling;

【図6】シャープネス強調処理を行う1次元フィルタの
周波数特性を示す図
FIG. 6 is a diagram illustrating frequency characteristics of a one-dimensional filter that performs sharpness enhancement processing;

【図7】正方サンプリングの周波数特性および第1のシ
ャープネス強調処理における強調周波数範囲を示す図
FIG. 7 is a diagram showing a frequency characteristic of square sampling and an emphasis frequency range in the first sharpness emphasis processing;

【図8】第2のシャープネス強調処理におけるボケ画像
データの算出方法を説明するための図
FIG. 8 is a diagram for explaining a method of calculating blurred image data in a second sharpness enhancement process;

【図9】第2のシャープネス強調処理における強調周波
数範囲を示す図
FIG. 9 is a diagram showing an emphasis frequency range in a second sharpness emphasis process;

【図10】本実施形態の動作を示すフローチャートFIG. 10 is a flowchart showing the operation of the embodiment.

【図11】本発明の他の実施形態による画像処理装置を
適用した画像出力システムの構成を示す概略ブロック図
FIG. 11 is a schematic block diagram illustrating a configuration of an image output system to which an image processing device according to another embodiment of the present invention is applied.

【図12】線形補間フィルタを示す図FIG. 12 is a diagram showing a linear interpolation filter.

【図13】画像処理手段の構成を示す概略ブロック図FIG. 13 is a schematic block diagram illustrating a configuration of an image processing unit.

【図14】2次元Cubicスプライン補間演算を行う補間
フィルタを示す図
FIG. 14 is a diagram illustrating an interpolation filter that performs a two-dimensional Cubic spline interpolation operation;

【図15】他の実施形態の動作を示すフローチャートFIG. 15 is a flowchart showing the operation of another embodiment.

【図16】補間フィルタの他の例を示す図FIG. 16 is a diagram showing another example of the interpolation filter.

【図17】補間フィルタの他の例を示す図FIG. 17 is a diagram showing another example of the interpolation filter.

【図18】市松サンプリングおよび正方サンプリングの
画素配置を示す図
FIG. 18 is a diagram showing a pixel arrangement of checkerboard sampling and square sampling.

【図19】市松サンプリングおよび正方サンプリングの
周波数特性を示す図
FIG. 19 is a diagram showing frequency characteristics of checkerboard sampling and square sampling.

【符号の説明】[Explanation of symbols]

1 画像読出手段 2 判別手段 3 シャープネス強調処理手段 4 再生手段 6 画像取得手段 7 CCD 8 市松正方変換手段 9 記録手段 10 メディア 12 変換処理手段 13 処理手段 23 画像処理手段 DESCRIPTION OF SYMBOLS 1 Image reading means 2 Discriminating means 3 Sharpness enhancement processing means 4 Reproduction means 6 Image acquisition means 7 CCD 8 Ichimatsu Masakata conversion means 9 Recording means 10 Media 12 Conversion processing means 13 Processing means 23 Image processing means

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 5/208 H04N 5/232 Z 5C077 5/232 5/335 P 5/335 101:00 // H04N 101:00 1/40 101D Fターム(参考) 5B057 BA02 BA13 CC01 CE03 5C021 PA38 PA72 RB05 XB02 XB16 YC10 5C022 AA13 AB37 AC01 AC42 AC69 5C024 BX01 CX37 GX22 GY01 5C062 AB17 AB46 AC02 AC26 AC58 AF14 5C077 LL19 MM03 MM30 MP01 NN02 NP07 PP03 PP66 PP71 PQ08 RR18 SS01 TT09 ──────────────────────────────────────────────────の Continued on the front page (51) Int.Cl. 7 Identification symbol FI Theme coat ゛ (Reference) H04N 5/208 H04N 5/232 Z 5C077 5/232 5/335 P 5/335 101: 00 // H04N 101 : 00 1/40 101D F term (reference) 5B057 BA02 BA13 CC01 CE03 5C021 PA38 PA72 RB05 XB02 XB16 YC10 5C022 AA13 AB37 AC01 AC42 AC69 5C024 BX01 CX37 GX22 GY01 5C062 AB17 AB46 AC02 AC26 AC58 AF14 NPMM PP19 PP71 PQ08 RR18 SS01 TT09

Claims (15)

【特許請求の範囲】[Claims] 【請求項1】 画像を所定のサンプリング配置により
捕捉して、該画像を表す画像データを取得する画像取得
方法において、 前記画像データに、前記所定のサンプリング配置に関す
るサンプリング情報を付与することを特徴とする画像取
得方法。
1. An image acquisition method for acquiring an image by a predetermined sampling arrangement and acquiring image data representing the image, wherein sampling information on the predetermined sampling arrangement is added to the image data. Image acquisition method.
【請求項2】 前記サンプリング情報が、市松サンプ
リングおよび正方サンプリングを区別する情報であるこ
とを特徴とする請求項1記載の画像取得方法。
2. The image acquisition method according to claim 1, wherein the sampling information is information for distinguishing between checkerboard sampling and square sampling.
【請求項3】 請求項1または2記載の画像取得方法
により取得された画像データに対してシャープネス強調
処理を施す画像処理方法であって、 前記サンプリング情報に応じて前記画像データに対して
異なるシャープネス強調処理を施して処理済み画像デー
タを得ることを特徴とする画像処理方法。
3. An image processing method for performing sharpness enhancement processing on image data acquired by the image acquisition method according to claim 1 or 2, wherein a different sharpness is applied to the image data according to the sampling information. An image processing method characterized in that processed image data is obtained by performing an emphasis process.
【請求項4】 前記異なるシャープネス強調処理が、
前記画像データの前記サンプリング配置に起因する周波
数特性に応じた処理であることを特徴とする請求項3記
載の画像処理方法。
4. The different sharpness enhancement processing includes:
4. The image processing method according to claim 3, wherein the image data is processed in accordance with a frequency characteristic caused by the sampling arrangement.
【請求項5】 画像を所定のサンプリング配置により
捕捉して、該画像を表す画像データを取得する画像取得
装置において、 前記画像データに、前記所定のサンプリング配置に関す
るサンプリング情報を付与する付与手段を備えたことを
特徴とする画像取得装置。
5. An image acquisition apparatus for capturing an image by a predetermined sampling arrangement and acquiring image data representing the image, comprising: an assigning means for adding sampling information on the predetermined sampling arrangement to the image data. An image acquisition apparatus characterized in that:
【請求項6】 前記サンプリング情報が、市松サンプ
リングおよび正方サンプリングを区別する情報であるこ
とを特徴とする請求項5記載の画像取得装置。
6. The image acquisition apparatus according to claim 5, wherein the sampling information is information for distinguishing between checkerboard sampling and square sampling.
【請求項7】 請求項5または6記載の画像取得装置
により取得された画像データに対してシャープネス強調
処理を施す処理手段を備えた画像処理装置であって、 前記処理手段は、前記サンプリング情報に応じて前記画
像データに対して異なるシャープネス強調処理を施して
処理済み画像データを得る手段であることを特徴とする
画像処理装置。
7. An image processing apparatus comprising processing means for performing sharpness enhancement processing on image data obtained by the image obtaining apparatus according to claim 5 or 6, wherein said processing means outputs An image processing apparatus, which is means for performing different sharpness enhancement processing on the image data in accordance with the image data to obtain processed image data.
【請求項8】 前記処理手段は、前記異なるシャープ
ネス強調処理を、前記画像データの前記サンプリング配
置に起因する周波数特性に応じた処理とする手段である
ことを特徴とする請求項7記載の画像処理装置。
8. The image processing apparatus according to claim 7, wherein said processing means performs the different sharpness enhancement processing in accordance with a frequency characteristic caused by the sampling arrangement of the image data. apparatus.
【請求項9】 画像を所定のサンプリング配置により
捕捉して、該画像を表す画像データを取得する画像取得
方法をコンピュータに実行させるためのプログラムを記
録したコンピュータ読取り可能な記録媒体において、 前記プログラムは、前記画像データに、前記所定のサン
プリング配置に関するサンプリング情報を付与する手順
を有することを特徴とするコンピュータ読取り可能な記
録媒体。
9. A computer-readable recording medium recording a program for causing a computer to execute an image acquisition method for acquiring an image data representing the image by capturing the image by a predetermined sampling arrangement, wherein the program is A computer-readable recording medium having a procedure for adding sampling information relating to the predetermined sampling arrangement to the image data.
【請求項10】 前記サンプリング情報が、市松サン
プリングおよび正方サンプリングを区別する情報である
ことを特徴とする請求項9記載のコンピュータ読取り可
能な記録媒体。
10. The computer-readable recording medium according to claim 9, wherein said sampling information is information for distinguishing between checkerboard sampling and square sampling.
【請求項11】 請求項1または2記載の画像取得方
法により取得された画像データに対してシャープネス強
調処理を施す画像処理方法をコンピュータに実行させる
ためのプログラムを記録したコンピュータ読取り可能な
記録媒体であって、 前記プログラムは、前記サンプリング情報に応じて前記
画像データに対して異なるシャープネス強調処理を施し
て処理済み画像データを得る手順を有することを特徴と
するコンピュータ読取り可能な記録媒体。
11. A computer-readable recording medium storing a program for causing a computer to execute an image processing method for performing sharpness enhancement processing on image data obtained by the image obtaining method according to claim 1 or 2. A computer-readable recording medium, characterized in that the program has a procedure of performing different sharpness enhancement processing on the image data according to the sampling information to obtain processed image data.
【請求項12】 前記処理済み画像データを得る手順
は、前記異なるシャープネス強調処理を、前記画像デー
タの前記サンプリング配置に起因する周波数特性に応じ
た処理とする手順であることを特徴とする請求項11記
載のコンピュータ読取り可能な記録媒体。
12. The method according to claim 1, wherein the step of obtaining the processed image data is a step in which the different sharpness enhancement processing is performed according to a frequency characteristic of the image data caused by the sampling arrangement. 12. The computer-readable recording medium according to item 11.
【請求項13】 画像を所定のサンプリング配置によ
り捕捉した際の、該所定のサンプリング配置に関するサ
ンプリング情報を付帯させたフォーマットの画像データ
を記録したコンピュータ読取り可能な記録媒体。
13. A computer-readable recording medium for recording image data in a format to which sampling information related to the predetermined sampling arrangement is attached when an image is captured by the predetermined sampling arrangement.
【請求項14】 請求項7または8記載の画像処理装
置を備えたことを特徴とする撮像装置。
14. An imaging device comprising the image processing device according to claim 7. Description:
【請求項15】 請求項7または8記載の画像処理装
置を備えたことを特徴とする出力装置。
15. An output device comprising the image processing device according to claim 7. Description:
JP2000155648A 1999-07-27 2000-05-26 Image acquisition method and apparatus, image processing method and apparatus, and recording medium Expired - Lifetime JP3874994B2 (en)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2000155648A JP3874994B2 (en) 1999-08-19 2000-05-26 Image acquisition method and apparatus, image processing method and apparatus, and recording medium
US09/627,062 US7010172B1 (en) 1999-07-27 2000-07-27 Image acquiring method, image processing method, and image transforming method
US10/809,393 US7623729B2 (en) 1999-07-27 2004-03-26 Image acquiring method, image processing method, and image transforming method
US12/508,414 US7801389B2 (en) 1999-07-27 2009-07-23 Image acquiring method, image processing method, and image transforming method
US12/508,364 US7801388B2 (en) 1999-07-27 2009-07-23 Image acquiring method, image processing method, and image transforming method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP11-232674 1999-08-19
JP23267499 1999-08-19
JP2000155648A JP3874994B2 (en) 1999-08-19 2000-05-26 Image acquisition method and apparatus, image processing method and apparatus, and recording medium

Publications (2)

Publication Number Publication Date
JP2001128048A true JP2001128048A (en) 2001-05-11
JP3874994B2 JP3874994B2 (en) 2007-01-31

Family

ID=26530591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000155648A Expired - Lifetime JP3874994B2 (en) 1999-07-27 2000-05-26 Image acquisition method and apparatus, image processing method and apparatus, and recording medium

Country Status (1)

Country Link
JP (1) JP3874994B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004008753A1 (en) * 2002-07-11 2004-01-22 Seiko Epson Corporation Output image adjustment of image data

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004008753A1 (en) * 2002-07-11 2004-01-22 Seiko Epson Corporation Output image adjustment of image data
US7379213B2 (en) 2002-07-11 2008-05-27 Seiko Epson Corporation Output image adjustment of image data

Also Published As

Publication number Publication date
JP3874994B2 (en) 2007-01-31

Similar Documents

Publication Publication Date Title
JP4556813B2 (en) Image processing apparatus and program
JP5240194B2 (en) Signal processing method and signal processing apparatus
US20020141005A1 (en) Image processing program and image processing apparatus
US7801389B2 (en) Image acquiring method, image processing method, and image transforming method
JP2007189428A (en) Apparatus and program for index image output
JP2000152017A (en) Method and device for picture correction and recording medium
JPH1084475A (en) Image area discrimination method and image-processing unit
JP4087280B2 (en) Image processing apparatus, image processing method, and image processing system
JPH1132287A (en) Method and device for generating image file
JP3874994B2 (en) Image acquisition method and apparatus, image processing method and apparatus, and recording medium
JP4202582B2 (en) Image conversion method and apparatus, and recording medium
JP3992903B2 (en) Image conversion method and apparatus, and recording medium
JP4392891B2 (en) Imaging apparatus and image processing method in the imaging apparatus
JP2000030050A (en) Picture processor, its method, and recording medium having recorded picture processing program thereon
US20020154320A1 (en) Image data generation method, image data generation apparatus, image processing method, image processing apparatus, and recording medium
JP3783815B2 (en) Image processing device
JP3922706B2 (en) Divided image composition processing apparatus, divided image composition processing method, and divided image composition processing program
JP4223223B2 (en) Image processing method, apparatus, and program
JPH10290368A (en) Contour emphasis method
JP3967163B2 (en) Image generation method and apparatus, image processing method and apparatus, and program
JP3920122B2 (en) Image processing method and apparatus, image processing system, and program
JP2004341620A (en) Interpolation processing method, interpolation processing program, recording medium with its program recorded thereon, image processor and image forming apparatus
JP2001160950A (en) Image recording and reproducing method and recording medium, and image recording and reproducing system
JP2006236068A (en) Image processor, image processing method and program
JP2003283837A (en) Image generating method and apparatus, image processing method and apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061024

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061025

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3874994

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091102

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091102

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091102

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101102

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111102

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121102

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121102

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131102

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term