JP2003346143A - Image processing method and image processing program - Google Patents

Image processing method and image processing program

Info

Publication number
JP2003346143A
JP2003346143A JP2002154906A JP2002154906A JP2003346143A JP 2003346143 A JP2003346143 A JP 2003346143A JP 2002154906 A JP2002154906 A JP 2002154906A JP 2002154906 A JP2002154906 A JP 2002154906A JP 2003346143 A JP2003346143 A JP 2003346143A
Authority
JP
Japan
Prior art keywords
image
processing
color
signal
reduced
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002154906A
Other languages
Japanese (ja)
Other versions
JP4096626B2 (en
Inventor
Hirokazu Kobayashi
寛和 小林
Masaya Tamaru
雅也 田丸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2002154906A priority Critical patent/JP4096626B2/en
Publication of JP2003346143A publication Critical patent/JP2003346143A/en
Application granted granted Critical
Publication of JP4096626B2 publication Critical patent/JP4096626B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image processing method capable of holding resolution feeling while reducing false color when a reduced image of an original image (RAW image) not subjected to a signal processing such as synchronization is produced, and an image processing program for realizing the method. <P>SOLUTION: Colors are separated from the original image (CCDRAW image) obtained from a single plate color imaging device (#1), and low-pass filters (hereafter referred to as Pre-LPF) set for each color are applied to R, G, and B signals (#2). The two-dimensional zone characteristics of the Pre-LPF are similar to the two-dimensional reproducing zones of the colors specified by a color filter arrangement and a sampling theorem. The single plate image is regenerated by using the R, G, and B signals after the Pre-LPF processing (#3), and pixels are omitted from the re-arranged image to generate the reduced RAW image (#4). Signal processings (developing processings) such as gamma conversion and synchronization are applied to the reduced RAW image (#5) to provide a final reduced image. <P>COPYRIGHT: (C)2004,JPO

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は画像処理方法及び画
像処理プログラムに係り、特に単板カラー撮像装置から
得られる原画像の縮小処理に好適な画像処理技術に関す
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing method and an image processing program, and more particularly to an image processing technique suitable for reduction processing of an original image obtained from a single-plate color image pickup apparatus.

【0002】[0002]

【従来の技術】一般的なデジタルカメラは、CCD等の
撮像素子から得られる画像信号を10ビット又は12ビ
ットのデジタルデータに変換し、様々な画像処理を施し
た後、JPEG符号化などの圧縮方式に従って画像データを
圧縮して記録媒体に記録するようになっている。この種
のデジタルカメラでは、画像記録時に非可逆な圧縮を施
すため、再生時やプリント時に必ずしも充分に良好な画
質が得られない場合がある。また、記録された画像は、
既に様々な画像処理が施されているので、ユーザ自身が
再生画像に対して更なる画像処理を施すと画質が劣化す
る場合がある。
2. Description of the Related Art A general digital camera converts an image signal obtained from an image sensor such as a CCD into 10-bit or 12-bit digital data, performs various image processing, and then compresses such as JPEG encoding. The image data is compressed and recorded on a recording medium according to a method. Since this type of digital camera performs irreversible compression during image recording, a sufficiently good image quality may not always be obtained during reproduction or printing. The recorded image is
Since various image processing has already been performed, the image quality may be deteriorated when the user himself / herself performs further image processing on the reproduced image.

【0003】これに対して、カメラ内で画像処理を実施
せず、撮像素子から出力される画素ごとのアナログ信号
をA/D変換後、画像処理を加えない生(RAW )の状態
でデジタルデータをそのまま記録する方式が提案されて
いる。すなわち、カメラ側では未加工のRAW データを記
録しておき、パソコン等の外部装置によって画像の再現
(現像)処理を行うことにより、高品質のプリントやユ
ーザの目的に合致したより高度な画像編集を実現するも
のである。
On the other hand, digital data is processed in a raw state (RAW) without image processing after image processing is not performed in the camera, and analog signals for each pixel output from the image sensor are A / D converted. There has been proposed a method for recording the image as it is. In other words, by recording raw RAW data on the camera side and performing image reproduction (development) processing with an external device such as a personal computer, high-quality printing and more advanced image editing that matches the user's purpose Is realized.

【0004】[0004]

【発明が解決しようとする課題】しかしながら、RAW 形
式のデータは、JPEG形式等のデータに比べてファイルサ
イズが大きく、再生処理に時間がかかる。RAW データの
再生は、一画素について一色の情報しかない大サイズの
原画像データを基に、ガンマ変換やホワイトバランスを
とりつつ、各画素についてR/G/Bの情報を得るよう
な同時化処理を行い、最終的に再現画像を得なければな
らない。画面内の細部の再現性までをも確認する場合に
は、このような大サイズの画像を取り扱う必要がある
が、例えば、色の再現性を確認するだけの場合(色調や
色の感じを確認したい場合)、或いは、明るさの程度や
ガンマのかけ具合を変更したときの結果確認などには、
それほど大きな画像を用いなくても小さな画像で十分確
認することが可能である。かかる場合、RAW 画像を縮小
して再生処理を行うことにより、処理時間を大幅に短縮
できる。
However, RAW format data has a larger file size than JPEG format data and takes a long time for reproduction processing. Playback of RAW data is a synchronized process that obtains R / G / B information for each pixel while taking gamma conversion and white balance based on large-size original image data with only one color information for each pixel. To obtain the final reproduced image. In order to check the reproducibility of details in the screen, it is necessary to handle such a large image. For example, when only checking the reproducibility of color (check the color tone and color feeling). If you want to check the results when you change the brightness level or gamma level,
Even without using such a large image, a small image can be sufficiently confirmed. In such a case, the processing time can be greatly shortened by reducing the RAW image and performing the reproduction process.

【0005】このように、RAW データの処理結果を高速
表示するため、或いはプレビュー用画像ファイルサイズ
の最小化などの目的でRAW 画像の縮小処理が行われるこ
とがある。
As described above, RAW image reduction processing may be performed in order to display the processing result of RAW data at high speed or to minimize the size of the preview image file.

【0006】特開2001−86345号公報では、原
画像を縮小処理し(すなわち、低周波成分を取り出
し)、その縮小画像に対して高度な色変換を行い、拡大
処理後に原信号に重ね合わせることで高画質化を図る方
法が提案されている。しかし、同公報に開示された従来
の方法は、原画像を構成している一つ一つの画素がRG
B(又はCMY)の各色情報を全て有しているものを対
象としている。
In Japanese Patent Laid-Open No. 2001-86345, an original image is reduced (that is, a low-frequency component is extracted), advanced color conversion is performed on the reduced image, and the original signal is superimposed on the enlarged signal. A method for improving the image quality is proposed. However, according to the conventional method disclosed in the publication, each pixel constituting the original image is RG.
The target is information having all the color information of B (or CMY).

【0007】したがって、同公報に開示の方法を単板カ
ラー撮像装置から得られるモザイク状のRAW 画像にその
まま適用すると、色によって偽色が現れたり、解像感の
劣化が発生し、原画像の撮像特徴を十分に生かした縮小
RAW 画像を得ることができないという欠点がある。
Therefore, when the method disclosed in the publication is applied to a mosaic RAW image obtained from a single-plate color image pickup device as it is, a false color appears depending on the color, or the resolution is deteriorated. Reduction that makes full use of imaging features
There is a disadvantage that RAW images cannot be obtained.

【0008】本発明はこのような事情に鑑みてなされた
もので、原画像を縮小する際に、偽色を低減しながらも
解像感を保持することができる画像処理方法及びそれを
実現する画像処理プログラムを提供することを目的とす
る。
The present invention has been made in view of such circumstances, and realizes an image processing method capable of maintaining a sense of resolution while reducing false colors when an original image is reduced. An object is to provide an image processing program.

【0009】[0009]

【課題を解決するための手段】本発明は前記目的を達成
するために、色配列の周期性が異なる複数色の画素から
なる原画像のデジタル画像信号から縮小画像を生成する
画像処理方法であって、前記原画像の各色信号について
前記色配列とサンプリング定理から規定される各色の二
次元的再現帯域に相似な二次元的帯域特性を有するロー
パスフィルタを施すフィルタ処理工程と、前記フィルタ
処理工程を経て生成された画像から画素を間引いて縮小
原画像を生成する縮小化処理工程と、前記縮小化処理で
生成された縮小原画像に対して画像再現の信号処理を行
うことにより前記原画像の縮小画像を得る再現処理工程
と、を含むことを特徴としている。
In order to achieve the above object, the present invention is an image processing method for generating a reduced image from a digital image signal of an original image composed of pixels of a plurality of colors having different periodicity of color arrangement. A filter processing step of applying a low-pass filter having a two-dimensional band characteristic similar to the two-dimensional reproduction band of each color defined by the color arrangement and the sampling theorem for each color signal of the original image, and the filter processing step A reduction processing step for generating a reduced original image by thinning out pixels from the image generated through the above process, and reduction of the original image by performing image reproduction signal processing on the reduced original image generated by the reduction processing And a reproduction processing step for obtaining an image.

【0010】本発明によれば、同時化などの信号処理が
行われていない原画像(RAW 画像)の縮小画像を生成す
るにあたり、原画像の各色信号(原信号)の再現帯域を
崩すことがないように、各色の二次元的再現帯域に相似
な帯域特性を有するローパスフィルタを施し、ローパス
フィルタ処理後の画像から画素の間引きを行って画素数
を減らし、縮小原画像を得ている。なお、画素の間引き
量は最終的に生成すべき縮小画像の縮小率に依存して設
定される。こうして得られた縮小原画像は、縮小前にお
ける原画像の再現特性の特徴を反映したものとなってい
る。
According to the present invention, when generating a reduced image of an original image (RAW image) that has not been subjected to signal processing such as synchronization, the reproduction band of each color signal (original signal) of the original image can be destroyed. The low-pass filter having a band characteristic similar to the two-dimensional reproduction band of each color is applied so that the number of pixels is reduced from the image after the low-pass filter process to obtain a reduced original image. Note that the pixel thinning amount is set depending on the reduction ratio of the reduced image to be finally generated. The reduced original image obtained in this way reflects the characteristics of the reproduction characteristics of the original image before reduction.

【0011】この縮小原画像に対して、ガンマ変換、ホ
ワイトバランス調整、同時化などの画像再現処理を行
い、最終的な縮小画像を得る。これにより、再現処理時
間の短縮化を達成できるとともに、最終画像における偽
色の発生を防止しつつ、各色信号の最大解像感を保持す
ることができる。
The reduced original image is subjected to image reproduction processing such as gamma conversion, white balance adjustment, and synchronization to obtain a final reduced image. As a result, the reproduction processing time can be shortened, and the maximum resolution of each color signal can be maintained while preventing the occurrence of false colors in the final image.

【0012】また、本発明の他の態様は、上記の方法発
明をコンピュータによって実現するためのプログラムを
提供する。すなわち、本発明に係る画像処理プログラム
は、色配列の周期性が異なる複数色の画素からなる原画
像のデジタル画像信号から縮小画像を生成する画像処理
機能をコンピュータに実現させるためのプログラムであ
って、前記原画像の各色信号について前記色配列とサン
プリング定理から規定される各色の二次元的再現帯域に
相似な二次元帯域特性を有するローパスフィルタを施す
フィルタ処理機能と、前記フィルタ処理機能を経て生成
された画像から画素を間引いて縮小原画像を生成する縮
小化処理機能と、前記縮小化処理で生成された縮小原画
像に対して画像再現の信号処理を行うことにより前記原
画像の縮小画像を得る再現処理機能と、をコンピュータ
に実現させることを特徴としている。
Another aspect of the present invention provides a program for realizing the above-described method invention by a computer. In other words, the image processing program according to the present invention is a program for causing a computer to realize an image processing function for generating a reduced image from a digital image signal of an original image composed of pixels of a plurality of colors having different periodicity of color arrangement. A filter processing function that applies a low-pass filter having a two-dimensional band characteristic similar to the two-dimensional reproduction band of each color defined by the color arrangement and the sampling theorem for each color signal of the original image, and generated through the filter processing function A reduction processing function for generating a reduced original image by thinning out pixels from the generated image, and performing a signal processing for image reproduction on the reduced original image generated by the reduction processing, thereby reducing the reduced image of the original image The reproduction processing function to be obtained is realized in a computer.

【0013】本発明の画像処理プログラムは、単独のア
プリケーションソフトウエアとして構成されてもよい
し、画像加工ソフトやファイル管理用ソフトウエアなど
のアプリケーションの一部として組み込まれてもよい。
また、本発明の画像処理プログラムは、パソコンなどの
コンピュータシステムに適用する場合に限定されず、デ
ジタルカメラや携帯電話機などの情報機器に組み込まれ
る中央処理装置(CPU)の動作プログラムとしても適
用することが可能である。
The image processing program of the present invention may be configured as a single application software, or may be incorporated as part of an application such as image processing software or file management software.
Further, the image processing program of the present invention is not limited to being applied to a computer system such as a personal computer, and may be applied as an operation program for a central processing unit (CPU) incorporated in an information device such as a digital camera or a mobile phone. Is possible.

【0014】[0014]

【発明の実施の形態】以下添付図面に従って本発明に係
る画像処理方法及び画像処理プログラムの好ましい実施
の形態について詳説する。
DESCRIPTION OF THE PREFERRED EMBODIMENTS Preferred embodiments of an image processing method and an image processing program according to the present invention will be described below in detail with reference to the accompanying drawings.

【0015】図1は本発明の実施形態に係る画像処理方
法が適用される原画像を記録する撮像装置の構成図であ
る。この撮像装置10は、撮像部12を介して撮像した
被写体の光学像をデジタル画像データに変換してメモリ
カード14に記録する単板式のデジタルカメラである。
撮像部12は、光学レンズ16、光学ローパスフィルタ
(OLPF)17、カラーフィルタ18及び撮像素子2
0を含む。
FIG. 1 is a block diagram of an image pickup apparatus for recording an original image to which an image processing method according to an embodiment of the present invention is applied. The imaging device 10 is a single-plate digital camera that converts an optical image of a subject imaged via the imaging unit 12 into digital image data and records it on a memory card 14.
The imaging unit 12 includes an optical lens 16, an optical low-pass filter (OLPF) 17, a color filter 18, and the imaging device 2.
Contains zero.

【0016】撮像素子20は、CCD型或いはCMOS
型などに代表されるイメージセンサである。撮像素子2
0の受光面には多数のフォトダイオード(感光画素)が
二次元的に配列されており、光学レンズ16を通過した
被写体情報を光電変換する。光学ローパスフィルタ17
は、撮像素子20の画素ピッチなどに依存するサンプリ
ング周波数以上の高周波成分を除去する作用を有し、画
像再現(信号処理)後の最終画像におけるエリアジング
発生を防止する。
The image sensor 20 is a CCD type or CMOS.
This is an image sensor represented by a mold. Image sensor 2
A large number of photodiodes (photosensitive pixels) are two-dimensionally arranged on the 0 light receiving surface, and subject information passing through the optical lens 16 is photoelectrically converted. Optical low-pass filter 17
Has an effect of removing high frequency components equal to or higher than the sampling frequency depending on the pixel pitch of the image sensor 20, and prevents aliasing in the final image after image reproduction (signal processing).

【0017】カラーフィルタ18は、撮像素子20の一
画素に対応する位置にR,G,Bの何れかの色が存在す
るような所定の色配列を有し、受光素子たるフォトダイ
オードに入射する光の色選択を行う。
The color filter 18 has a predetermined color arrangement such that any one of R, G, and B is present at a position corresponding to one pixel of the image sensor 20, and is incident on a photodiode as a light receiving element. Select the light color.

【0018】図2に原色タイプのカラーフィルタ配列の
例を示す。図2(a)に示したハニカム配列は、受光素
子(フォトダイオード)の幾何学的な形状の中心が行方
向及び列方向に1/2ピッチずつずらして配置されてい
る。図2(b)に示したベイヤー配列は、受光素子が行
方向及び列方向にそれぞれ一定ピッチで正方行列的に配
列されている。なお、実際の撮像素子20の結像面で
は、図2に示した画素配列の構造が水平方向及び垂直方
向に周期的に繰り返される。もちろん、本発明の実施
上、カラーフィルタ18の配列構造は、図2に示した例
に限定されず、Gストライプなど様々な配列構造が可能
である。また、本例では、原色フィルタを用いている
が、本発明の実施に際しては原色フィルタに限定され
ず、イエロー(Y)、マゼンタ(M)、シアン(C)、
グリーン(G)から成る補色フィルタを用いることも可
能である。
FIG. 2 shows an example of a primary color filter array. In the honeycomb arrangement shown in FIG. 2A, the centers of the geometric shapes of the light receiving elements (photodiodes) are arranged so as to be shifted by 1/2 pitch in the row direction and the column direction. In the Bayer arrangement shown in FIG. 2B, the light receiving elements are arranged in a square matrix at a constant pitch in the row direction and the column direction. Note that the structure of the pixel array shown in FIG. 2 is periodically repeated in the horizontal direction and the vertical direction on the imaging plane of the actual image sensor 20. Of course, in the practice of the present invention, the arrangement structure of the color filters 18 is not limited to the example shown in FIG. 2, and various arrangement structures such as G stripes are possible. In this example, primary color filters are used. However, the present invention is not limited to primary color filters, and yellow (Y), magenta (M), cyan (C),
It is also possible to use a complementary color filter made of green (G).

【0019】図1の光学レンズ16を通過した光は、光
学ローパスフィルタ17とカラーフィルタ18を通過し
て撮像素子20に入射する。撮像素子20の受光面に結
像された被写体像は、各フォトダイオードによって入射
光量に応じた量の信号電荷に変換され、図示せぬドライ
バ回路から与えられるパルスに基づいて信号電荷に応じ
た電圧信号(画像信号)として順次読み出される。
The light that has passed through the optical lens 16 in FIG. 1 passes through the optical low-pass filter 17 and the color filter 18 and enters the image sensor 20. The subject image formed on the light receiving surface of the image sensor 20 is converted into a signal charge of an amount corresponding to the amount of incident light by each photodiode, and a voltage corresponding to the signal charge based on a pulse supplied from a driver circuit (not shown). It is sequentially read out as a signal (image signal).

【0020】撮像素子20は、シャッターゲートパルス
のタイミングによって各フォトダイオードの電荷蓄積時
間(シャッタースピード)を制御する電子シャッター機
能を有している。撮像素子20の動作(露光、読み出し
等)はCPU22により制御される。
The image pickup device 20 has an electronic shutter function for controlling the charge accumulation time (shutter speed) of each photodiode according to the timing of the shutter gate pulse. The operation (exposure, reading, etc.) of the image sensor 20 is controlled by the CPU 22.

【0021】撮像素子20から出力された画像信号はア
ナログ処理部24に送られ、アナログ処理部24におい
てアナログゲイン、CDS(相関二重サンプリング)な
どの処理が行われる。アナログ処理部24で生成された
信号は、A/D変換部26においてデジタル信号に変換
される。
The image signal output from the image sensor 20 is sent to the analog processing unit 24, where the analog processing unit 24 performs processing such as analog gain and CDS (correlated double sampling). The signal generated by the analog processing unit 24 is converted into a digital signal by the A / D conversion unit 26.

【0022】A/D変換された画像データは、撮像装置
10の動作モードに従い必要な信号処理を経て、又は信
号処理を省略してメモリカード14に記録される。本例
の撮像装置10は、JPEG形式による画像記録が可能であ
るとともに、A/D変換した直後の画像(以下、CCDRAW
画像という。) を記録することができる。
The A / D converted image data is recorded in the memory card 14 through necessary signal processing according to the operation mode of the image pickup apparatus 10 or by omitting signal processing. The image pickup apparatus 10 of this example can record an image in JPEG format and also can display an image immediately after A / D conversion (hereinafter, CCDRAW).
It is called an image. ) Can be recorded.

【0023】JPEG形式で記録する場合、A/D変換され
た画像データは信号処理部28に送られる。信号処理部
28は、同時化(カラーフィルタ配列に伴う色信号の空
間的なズレを補間して各点の色を計算する処理)、ホワ
イトバランス(WB)調整、ガンマ補正、輝度・色差信
号生成、輪郭強調、電子ズーム機能による変倍(拡大/
縮小)処理、画素数の変換(リサイズ)処理などの各種
処理を実施する画像処理手段であり、CPU22からの
コマンドに従って画像信号を処理する。信号処理部28
は、処理途中の画像を一時記憶できる画像メモリ30を
備えており、画像メモリ30を利用しながら画像信号の
処理を行う。
When recording in the JPEG format, the A / D converted image data is sent to the signal processing unit 28. The signal processing unit 28 performs synchronization (processing for calculating the color of each point by interpolating the spatial shift of the color signal associated with the color filter array), white balance (WB) adjustment, gamma correction, luminance / color difference signal generation. , Zooming (enlargement /
Image processing means for performing various processing such as reduction processing and pixel number conversion (resizing) processing, and processes image signals in accordance with commands from the CPU 22. Signal processor 28
Includes an image memory 30 that can temporarily store an image being processed, and performs image signal processing while using the image memory 30.

【0024】信号処理部28において所定の信号処理を
経た画像データは、圧縮伸張部32に送られ、JPEG形式
の圧縮フォーマットに従って圧縮される。なお、圧縮形
式はJPEGに限定されず、MPEGその他の方式を採用しても
よく、使用される圧縮形式に対応した圧縮エンジンが用
いられる。
The image data that has undergone predetermined signal processing in the signal processing unit 28 is sent to the compression / decompression unit 32 and compressed according to the JPEG compression format. The compression format is not limited to JPEG, MPEG or other methods may be adopted, and a compression engine corresponding to the compression format used is used.

【0025】圧縮された画像データは、カードインター
フェース部34を介してメモリカード14に記録され
る。画像データを保存する手段は、メモリカード14で
代表される半導体メモリに限定されず、磁気ディスク、
光ディスク、光磁気ディスクなど、種々の媒体を用いる
ことができる。また、リムーバブルメディアに限らず、
撮像装置10に内蔵された記録媒体(内部メモリ)であ
ってもよい。
The compressed image data is recorded on the memory card 14 via the card interface unit 34. The means for storing the image data is not limited to the semiconductor memory represented by the memory card 14, but a magnetic disk,
Various media such as an optical disk and a magneto-optical disk can be used. In addition, not only removable media,
A recording medium (internal memory) built in the imaging apparatus 10 may be used.

【0026】その一方、CCDRAW画像を記録するモードの
場合、A/D変換部26によってデジタル化された画像
データは同時化その他の信号処理を経ずにCPU22を
介してメモリカード14に記録される。すなわち、CCDR
AW画像は、ガンマ変換、ホワイトバランス調整、同時化
などの信号処理が行われていない画像であり、カラーフ
ィルタ18の配列パターンに対応して画素ごとに異なる
色情報を一つだけ保持しているモザイク状の画像であ
る。もちろん、圧縮処理も行われていないので、大きな
ファイルサイズを有する。なお、CCDRAW画像をメモリカ
ード14に記録する際においては、可逆的な圧縮を行っ
て記録してもよいし、非圧縮のデータを記録してもよ
い。
On the other hand, in the mode for recording a CCDRAW image, the image data digitized by the A / D converter 26 is recorded on the memory card 14 via the CPU 22 without being subjected to synchronization or other signal processing. . That is, CCDR
The AW image is an image that has not undergone signal processing such as gamma conversion, white balance adjustment, and synchronization, and holds only one piece of color information that differs for each pixel corresponding to the array pattern of the color filter 18. It is a mosaic image. Of course, since the compression process is not performed, it has a large file size. When a CCDRAW image is recorded on the memory card 14, it may be recorded with reversible compression or uncompressed data may be recorded.

【0027】CPU22は、所定のプログラムに従って
本カメラシステムを統括制御する制御部であり、操作パ
ネル36からの指示信号に基づいて撮像装置10内の各
回路の動作を制御する。ROM38にはCPU22が実
行するプログラム及び制御に必要な各種データ等が格納
され、RAM40はCPU22の作業用領域として利用
される。
The CPU 22 is a control unit that performs overall control of the camera system in accordance with a predetermined program, and controls the operation of each circuit in the image pickup apparatus 10 based on an instruction signal from the operation panel 36. The ROM 38 stores programs executed by the CPU 22 and various data necessary for control. The RAM 40 is used as a work area for the CPU 22.

【0028】操作パネル36は、撮像装置10に対して
ユーザが各種の指示を入力するための手段であり、例え
ば、撮像装置10の動作モードを選択するためモード選
択スイッチ、メニュー項目の選択操作(カーソル移動操
作)や再生画像のコマ送り/コマ戻し等の指示を入力す
る十字キー、選択項目の確定(登録)や動作の実行を指
示する実行キー、選択項目など所望の対象の消去や指示
のキャンセルを行うためのキャンセルキー、電源スイッ
チ、ズームスイッチ、レリーズスイッチなど各種の操作
手段を含む。
The operation panel 36 is a means for a user to input various instructions to the image pickup apparatus 10. For example, a mode selection switch for selecting an operation mode of the image pickup apparatus 10 and a menu item selection operation ( Cursor movement operation), four-way key to input instructions such as frame advance / rewind of playback image, execution key to instruct selection (registration) and execution of operation, selection item to delete desired instruction Various operation means such as a cancel key for canceling, a power switch, a zoom switch, and a release switch are included.

【0029】CPU22は操作パネル36から入力され
る指示信号に応じて種々の撮影条件(露出条件、ストロ
ボ発光有無、撮影モードなど)に従い、撮像素子20な
どの撮像部12を制御するとともに、自動露出(AE)
制御、自動焦点調節(AF)制御、オートホワイトバラ
ンス(AWB)制御、レンズ駆動制御、画像処理制御、
メモリカード14の読み書き制御などを行う。
The CPU 22 controls the image pickup section 12 such as the image pickup device 20 in accordance with various shooting conditions (exposure conditions, presence / absence of strobe light emission, shooting mode, etc.) in accordance with an instruction signal input from the operation panel 36, and automatic exposure. (AE)
Control, auto focus adjustment (AF) control, auto white balance (AWB) control, lens drive control, image processing control,
Read / write control of the memory card 14 is performed.

【0030】例えば、CPU22は、レリーズスイッチ
の半押し(S1 =ON)を検知すると及び自動焦点調節
(AF)制御を行い、レリーズスイッチの全押し(S2
=ON)を検知すると、記録用の画像を取り込むための
露光及び読み出し制御を開始する。また、CPU22は
必要に応じて図示せぬストロボ制御回路にコマンドを送
り、キセノン管などの閃光発光管(発光部)の発光を制
御する。
For example, when the CPU 22 detects a half-press of the release switch (S1 = ON) and performs an automatic focus adjustment (AF) control, the CPU 22 fully presses the release switch (S2).
= ON) is detected, exposure and readout control for capturing a recording image is started. Further, the CPU 22 sends a command to a strobe control circuit (not shown) as necessary to control light emission of a flash light emitting tube (light emitting unit) such as a xenon tube.

【0031】信号処理部28は、AE及びAF制御に必
要な演算を行うオート演算部を含み、レリーズスイッチ
の半押し(S1 =ON)に応動して取り込まれた画像信
号に基づいて焦点評価値演算やAE演算などを行い、そ
の演算結果をCPU22に伝える。レリーズスイッチの
全押し(S2 =ON)が検知されると、CPU22は焦
点評価値演算の結果に基づいて図示せぬレンズ駆動用モ
ータを制御し、光学レンズ16を合焦位置に移動させる
とともに、絞りや電子シャッターを制御して、露出制御
を行う。こうして、取り込まれた画像データは、記録モ
ードに従ってメモリカード14に記録される。
The signal processing unit 28 includes an auto calculation unit for performing calculations necessary for AE and AF control, and a focus evaluation value based on an image signal taken in response to half-pressing of the release switch (S1 = ON). Calculation, AE calculation, etc. are performed, and the calculation result is transmitted to the CPU 22. When the release switch is fully pressed (S2 = ON), the CPU 22 controls a lens driving motor (not shown) based on the result of the focus evaluation value calculation, and moves the optical lens 16 to the in-focus position. Exposure is controlled by controlling the aperture and electronic shutter. Thus, the captured image data is recorded on the memory card 14 according to the recording mode.

【0032】次に、上記の如く構成された撮像装置10
によって記録されたCCDRAW画像を取り扱う画像処理装置
及びその画像処理方法について説明する。
Next, the image pickup apparatus 10 configured as described above.
An image processing apparatus that handles a CCDRAW image recorded by, and an image processing method thereof will be described.

【0033】撮像装置10によって記録されたCCDRAW画
像は、パソコン或いは専用の画像処理装置などによって
再現(現像)処理される。図3は本発明の実施形態に係
る画像処理プログラムが組み込まれるパソコン50のハ
ードウェア構成例を示すブロック図である。
The CCDRAW image recorded by the image pickup apparatus 10 is reproduced (developed) by a personal computer or a dedicated image processing apparatus. FIG. 3 is a block diagram showing a hardware configuration example of the personal computer 50 in which the image processing program according to the embodiment of the present invention is incorporated.

【0034】同図に示すようにパソコン50は、制御部
及び演算装置として機能するCPU52と、データの一
時記憶やCPU52によるプログラム実行時の作業用領
域として利用されるRAM54と、CPU52の動作に
必要なプログラムや各種設定値、ネットワーク接続情報
などを保管する書き換え可能な不揮発性メモリ(RO
M)56と、パソコン50のオペレーティングシステム
(OS)や本発明の実施形態に係る画像処理プログラ
ム、各種のアプリケーションソフト、ユーザが記録した
画像ファイル等が格納されるハードディスク装置58
と、日時を刻むカレンダ時計60と、メモリカードや光
磁気ディスクで代表される外部記録装置62の読み書き
制御を行うメディア制御部64と、キーボードやマウス
などの入力装置66と、入力装置66からの信号入力を
制御する入力制御部68と、画像や文字等を表示するデ
ィスプレイ70と、ディスプレイ70に対して表示用の
信号を出力する表示制御部72と、USBや無線LAN
など所定の通信方式に従って外部機器や通信ネットワー
クに接続するための通信装置74と、上記各構成要素を
接続するバス76とから構成される。
As shown in the figure, a personal computer 50 is necessary for the operation of the CPU 52, which functions as a control unit and an arithmetic unit, a RAM 54 used as a temporary storage area for data and a work area when the CPU 52 executes a program, and the CPU 52. Rewritable nonvolatile memory (RO) that stores various programs, various setting values, network connection information, etc.
M) 56, a hard disk device 58 in which an operating system (OS) of the personal computer 50, an image processing program according to the embodiment of the present invention, various application software, an image file recorded by the user, and the like are stored.
A calendar clock 60 for engraving the date and time, a media control unit 64 for performing read / write control of an external recording device 62 represented by a memory card or a magneto-optical disk, an input device 66 such as a keyboard or a mouse, and an input device 66 An input control unit 68 that controls signal input, a display 70 that displays images, characters, and the like, a display control unit 72 that outputs a display signal to the display 70, and a USB or wireless LAN
A communication device 74 for connecting to an external device or a communication network in accordance with a predetermined communication method, and a bus 76 for connecting the above components.

【0035】なお、上記構成からなるパソコン50は、
本発明を適用した画像処理プログラムを除いて周知のも
のであるため、各構成要素の詳細な説明については省略
する。
The personal computer 50 having the above-described configuration is
Since it is well known except for the image processing program to which the present invention is applied, detailed description of each component will be omitted.

【0036】次に、パソコン50を画像処理装置として
機能させる画像処理プログラムについて説明する。この
画像処理プログラムは、ハードディスク装置58や外部
記録装置62に保存されている画像ファイル、或いは通
信装置74を介して接続される外部機器(例えば、撮像
装置10)内に保存されている画像ファイルを閲覧・加
工(編集)できるようにパソコン50を動作させるもの
である。
Next, an image processing program for causing the personal computer 50 to function as an image processing apparatus will be described. The image processing program stores an image file stored in the hard disk device 58 or the external recording device 62 or an image file stored in an external device (for example, the imaging device 10) connected via the communication device 74. The personal computer 50 is operated so that it can be browsed and processed (edited).

【0037】図4は、CCDRAW画像から縮小画像を生成す
る画像処理の手順を示す処理ブロック図である。同図に
よれば、単板式の原画像(1面)であるCCDRAW画像を色
分離し(#1)、R,G,Bの各色信号の画像(3面)
に分ける。色分けされたR信号、G信号、B信号に対し
てそれぞれ各色ごとに設定されたローパスフィルタ(以
下、Pre-LPF という。)をかける(#2)。詳しくは後
述するが、色分離された各色信号について、それぞれの
二次元的再現帯域に相似な帯域特性を有するPre-LPF を
かける。
FIG. 4 is a processing block diagram showing an image processing procedure for generating a reduced image from a CCDRAW image. According to the figure, the CCDRAW image, which is a single-plate original image (one side), is color-separated (# 1), and each color signal image of R, G, B (three sides)
Divide into A low pass filter (hereinafter referred to as Pre-LPF) set for each color is applied to the color-coded R signal, G signal, and B signal (# 2). As will be described in detail later, Pre-LPF having a band characteristic similar to each two-dimensional reproduction band is applied to each color signal subjected to color separation.

【0038】Pre-LPF をかけて得られたR信号、G信
号、B信号を用いて、CCDRAWタイプの画素配列に再配列
し(#3)、単板式の画像を再生成する。
Using the R, G, and B signals obtained by applying Pre-LPF, rearrangement into a CCDRAW type pixel array (# 3) is performed to regenerate a single-plate image.

【0039】続いて、再生成されたCCDRAWタイプの画像
の画素を一定の割合で間引く処理を行い(#4)、画像
を縮小する。間引き処理で生成されたCCDRAWタイプの縮
小画像(以下、縮小RAW 画像という。)を現像処理部に
入力して信号処理を行い(#5)、ここでガンマ変換、
ホワイトバランス調整、同時化などの処理を経て最終的
な画像(例えば、表示用縮小画像であるRGBデータ)
に変換する。
Subsequently, a process of thinning out the pixels of the regenerated CCDRAW type image at a certain rate is performed (# 4) to reduce the image. A CCDRAW type reduced image (hereinafter referred to as a reduced RAW image) generated by the thinning process is input to the development processing unit for signal processing (# 5), where gamma conversion,
Final image after processing such as white balance adjustment and synchronization (for example, RGB data which is a reduced image for display)
Convert to

【0040】なお、CCDRAW画像を縮小せずに再生する場
合には、上記の処理工程(#1)〜(#4)を省略し、
CCDRAW画像を直接(#5)の信号処理工程に入力して再
現画像を得る。
Note that when reproducing a CCDRAW image without reducing it, the above processing steps (# 1) to (# 4) are omitted,
A CCDRAW image is directly input to the signal processing step (# 5) to obtain a reproduced image.

【0041】図4に示した画像処理プロセスに従ってハ
ニカム配列の画像を処理する例を図5に示す。図5には
ハニカム配列のCCDRAW画像から縮小画像を生成する処理
プロセスが示されている。この処理プロセスは、例え
ば、CCDRAW処理結果のプレビュー表示のために用いられ
る。
FIG. 5 shows an example of processing the honeycomb array image in accordance with the image processing process shown in FIG. FIG. 5 shows a processing process for generating a reduced image from a CCDRAW image having a honeycomb array. This processing process is used, for example, for preview display of the CCDRAW processing result.

【0042】図5(a)に示すように、原画像であるCC
DRAW画像はハニカム配列の画素配置を反映したモザイク
状の画像である。この原画像の画像情報を色分離し、図
5(b)のようにR,G,Bの3面に分ける。なお、こ
のとき、欠落する画素点(ブランクとなる位置)を一定
の割合で詰めながら画素を配列し直す。ブランクとなる
画素点を詰めることによって、位相は変わるが、画素の
周期的な並び方は維持されている。
As shown in FIG. 5A, the original image CC
The DRAW image is a mosaic image reflecting the pixel arrangement of the honeycomb arrangement. The image information of the original image is color-separated and divided into three surfaces R, G, and B as shown in FIG. At this time, the pixels are rearranged while filling the missing pixel points (blank positions) at a constant rate. Although the phase is changed by filling the blank pixel points, the periodic arrangement of the pixels is maintained.

【0043】こうして色分離されたR信号、G信号、B
信号について、それぞれの二次元的再現帯域の特徴を保
持するように設計されたPre-LPF をかける。ハニカム配
列の場合、R信号及びB信号に施すPre-LPF は斜め方向
の帯域を落とし、GにかけるPre-LPF は斜め方向の帯域
を保持するようなものとする。こうして、図5(c)に
示す3面の画像を得る。
The color-separated R signal, G signal, B
The signal is subjected to a Pre-LPF designed to preserve the characteristics of each two-dimensional reproduction band. In the case of the honeycomb arrangement, the Pre-LPF applied to the R signal and the B signal drops the diagonal band, and the Pre-LPF applied to G holds the diagonal band. In this way, a three-surface image shown in FIG.

【0044】Pre-LPF 処理後の3面の画像を元の1面の
画像(CCDRAW画像と同じモザイク状の画像)に戻す処理
(CCDRAWファイル化工程)を行い、図5(d)に示すよ
うなモザイク状の画像を再生成する。
A process (CCDRAW file conversion process) is performed to return the three-sided image after the pre-LPF processing to the original one-sided image (the same mosaic image as the CCDRAW image), as shown in FIG. Recreates a mosaic-like image.

【0045】再配置されたモザイク状の画像から間引き
処理を行い、図5(e)に示す縮小RAW 画像を生成す
る。同図では1/3に縮小する例が示されている。図5
(d)において「網かけ」で示したR及びGの画素が図
5(e)において「網かけ」したR及びGの画素にそれ
ぞれ対応している。
A thinning process is performed from the rearranged mosaic image to generate a reduced RAW image shown in FIG. In the figure, an example of reduction to 1/3 is shown. FIG.
The R and G pixels indicated by “shaded” in (d) correspond to the R and G pixels “shaded” in FIG. 5E, respectively.

【0046】こうして得られた縮小RAW 画像を基に、ガ
ンマ変換、ホワイトバランス調整、同時化などの処理を
行い、図5(f)に示す縮小版最終画像(例えば、表示
用縮小画像であるRGBデータ)を生成する。これによ
り、縮小画像の高速表示が可能となる。
Based on the reduced RAW image obtained in this way, processing such as gamma conversion, white balance adjustment, and synchronization is performed, and the final reduced image shown in FIG. 5F (for example, RGB which is a reduced image for display). Data). As a result, the reduced image can be displayed at high speed.

【0047】次に、Pre-LPF 処理の詳細について説明す
る。
Next, the details of the Pre-LPF process will be described.

【0048】上述のように、CCDRAW画像を縮小し、その
縮小RAW 画像に対して所定の処理を行うことを考えると
き、縮小率に従ってPre-LPF を設計することが重要とな
る。このPre-LPF の帯域特性は、縮小率×fs /2(た
だし、fs はサンプリング周波数)とすればよいが、こ
れを色によらず画一的に施すと、元々サンプリング周波
数の高い色信号(ハニカム配列やベイヤー配列における
G信号)にとっては解像感の点で劣化が生じ、元々サン
プリング周波数の低い色信号(ハニカム配列やベイヤー
配列におけるR、B信号)にとっては偽信号の点で劣化
が生じてしまう。
As described above, it is important to design the Pre-LPF according to the reduction ratio when considering reducing the CCDRAW image and performing predetermined processing on the reduced RAW image. The band characteristic of this Pre-LPF may be a reduction ratio × fs / 2 (where fs is a sampling frequency). However, if this is applied uniformly regardless of the color, a color signal having a high sampling frequency ( Deterioration occurs in terms of resolution for the G signal in the honeycomb array or Bayer array, and deterioration occurs in the point of a false signal for the color signal originally having a low sampling frequency (R and B signals in the honeycomb array or Bayer array). End up.

【0049】そこで、本発明の実施形態では、CCDRAW画
像について色ごとに設定したPre-LPF を施す構成とし、
各色信号に施すべきPre-LPF の帯域特性は、縮小率×f
s /2とするとともに、その二次元的特性を元の各色の
再現帯域に相似させる。
Therefore, in the embodiment of the present invention, a pre-LPF set for each color is applied to the CCDRAW image,
The pre-LPF band characteristics to be applied to each color signal are the reduction rate x f
s / 2, and the two-dimensional characteristic is similar to the reproduction band of each original color.

【0050】図6は、ハニカム配列及びベイヤー配列の
それぞれの場合について、サンプリング定理に基づく各
色の再現帯域を空間周波数座標(規格化していない絶対
的な空間周波数の座標系)上に表した図である。図6
(a)に示すようにハニカム配列の場合、R,B信号の
再現帯域は水平及び垂直方向に比べて斜め45度方向の
再現帯域が低い菱形の形状となる。つまり、縦線、横線
の入力に対しては、再現性(解像度)が高いが、斜め4
5度方向の線(以下、斜め線という。)の入力に対して
は、再現性が低くなる(1/21/2 倍になる)。
FIG. 6 is a diagram showing the reproduction band of each color based on the sampling theorem on the spatial frequency coordinates (absolute spatial frequency coordinate system that is not standardized) for each of the honeycomb array and the Bayer array. is there. FIG.
As shown in (a), in the case of the honeycomb arrangement, the reproduction bands of the R and B signals have a rhombus shape with a reproduction band in the oblique 45-degree direction being lower than in the horizontal and vertical directions. In other words, although the reproducibility (resolution) is high for the input of the vertical line and the horizontal line, the diagonal 4
The reproducibility is low (1/2 1/2 times) for an input of a line in the 5 degree direction (hereinafter referred to as a diagonal line).

【0051】一方、ハニカム配列におけるG信号の場合
には、水平及び垂直方向については、R,B信号と同等
の再現帯域を有し、斜め45度方向についてはR,B信
号よりも2倍の再現帯域を有している。すなわち、G信
号の二次元的再現帯域は図6(a)に示したように矩形
(正方形)の形状となる。
On the other hand, in the case of the G signal in the honeycomb arrangement, the horizontal and vertical directions have a reproduction band equivalent to that of the R and B signals, and the oblique 45 degree direction is twice that of the R and B signals. Has a reproduction band. That is, the two-dimensional reproduction band of the G signal has a rectangular (square) shape as shown in FIG.

【0052】このような、再現帯域の違いは、カラーフ
ィルタ18の配列周期(画素の配列構造)に起因する
(図2参照)。ハニカム配列の場合、水平及び垂直方向
について、R,Bの空間サンプリング周波数とGの空間
サンプリング周波数は同等であるが、斜め45度方向に
ついてR,Bの空間サンプリング周波数はGのそれの半
分である。CCDRAW画像はカラーフィルタの配列構造を反
映し、色ごとに異なる帯域の特徴を有している。
Such a difference in reproduction band is caused by the arrangement period (pixel arrangement structure) of the color filter 18 (see FIG. 2). In the case of the honeycomb arrangement, the spatial sampling frequencies of R and B are equal to the spatial sampling frequency of G in the horizontal and vertical directions, but the spatial sampling frequency of R and B is half that of G in the oblique 45 degree direction. . The CCDRAW image reflects the arrangement structure of the color filters and has different band characteristics for each color.

【0053】図6(b)はベイヤー配列における各色の
二次元的再現帯域を示す。ベイヤー配列については、
R,B信号の二次元的再現帯域は矩形となり、G信号の
二次元再現帯域は菱形になる。
FIG. 6B shows a two-dimensional reproduction band of each color in the Bayer array. For the Bayer layout,
The two-dimensional reproduction band of the R and B signals is rectangular, and the two-dimensional reproduction band of the G signal is diamond.

【0054】なお、図6(a),(b)から明らかなよ
うに、ハニカム配列、或いはベイヤー配列におけるR,
B信号と、G信号の再現帯域は、互いに45度回転させ
た関係になっている。大きさの違いは、G信号のサンプ
リング点の多さによるものである。
As is apparent from FIGS. 6 (a) and 6 (b), R,
The reproduction bands of the B signal and the G signal are in a relationship rotated by 45 degrees. The difference in size is due to the number of sampling points of the G signal.

【0055】本発明の実施形態では、図6に示したCCDR
AW画像における色ごとの再現特性を考慮し、図4及び図
5で説明した画像処理プロセスにおいて、各色信号に施
すべきPre-LPF の帯域特性を、元の各色の再現帯域に相
似させている。
In the embodiment of the present invention, the CCDR shown in FIG.
In consideration of the reproduction characteristics for each color in the AW image, the band characteristics of the Pre-LPF to be applied to each color signal in the image processing process described with reference to FIGS. 4 and 5 are similar to the reproduction bands of each original color.

【0056】すなわち、具体的には、図5の画像処理プ
ロセスにおいて、R,B信号に対しては図7に示すPre-
LPF を施し、G信号に対しては図8に示すPre-LPF を施
す。図7に示したPre-LPF は、j 番目のフィルタ係数を
j 、入力R信号をRj (処理前) とすると、Pre-LPF
処理後の画素位置iにおけるR信号の値Ri (処理後)
は次式で表される。
Specifically, in the image processing process of FIG. 5, the R- and B-signals are pre-shown in FIG.
LPF is applied, and Pre-LPF shown in FIG. 8 is applied to the G signal. In the Pre-LPF shown in FIG. 7, when the jth filter coefficient is a j and the input R signal is R j (before processing), the Pre-LPF
R signal value Ri at post-processing pixel position i (after processing)
Is expressed by the following equation.

【0057】[0057]

【数1】 Ri (処理後)=Σaj j (処理前)/16384 …(1) B信号についても同様の計算を行う。また、G信号につ
いては、図8に示したフィルタ係数を用いて同様の計算
を行う。
R i (after processing) = Σa j R j (before processing) / 16384 (1) The same calculation is performed for the B signal. For the G signal, the same calculation is performed using the filter coefficients shown in FIG.

【0058】図7に示したR,B信号用のPre-LPF は、
縦横方向よりも斜め方向の再現帯域を落とし、図8に示
したG信号用のPre-LPF は、縦横方向よりも斜め方向の
再現帯域を高めるような係数配置になっている。
The Pre-LPF for the R and B signals shown in FIG.
The pre-LPF for the G signal shown in FIG. 8 has a coefficient arrangement that increases the reproduction band in the oblique direction rather than the vertical and horizontal directions.

【0059】図6で説明したように、R,B信号と、G
信号の再現帯域は、互いに45度回転させた関係になっ
ているので、これらに施すPre-LPF は、そのフィルタ係
数を互いに45度回転させたものとしてもよい。
As described in FIG. 6, the R and B signals and the G
Since the signal reproduction bands are in a relationship of being rotated by 45 degrees with each other, the Pre-LPF applied to these may have their filter coefficients rotated by 45 degrees with respect to each other.

【0060】実際、図7に示したPre-LPF は、図8に示
したPre-LPF の係数配置を45度回転させたものとなっ
ている。このように、R,B信号に施すPre-LPF のフィ
ルタ係数を45度回転させたものをG信号に施すこと
で、ハニカム配列原色フィルタの再現帯域に相似させる
ことができる。
Actually, the Pre-LPF shown in FIG. 7 is obtained by rotating the coefficient arrangement of the Pre-LPF shown in FIG. 8 by 45 degrees. In this way, by applying the G-signal with the Pre-LPF filter coefficient rotated by 45 degrees applied to the R and B signals, it is possible to resemble the reproduction band of the honeycomb array primary color filter.

【0061】また、ベイヤー配列原色フィルタを用いた
撮像装置によって取得されたCCDRAW画像から縮小画像を
生成する場合には、図7のPre-LPF をG信号に施し、図
8のPre-LPF をR,B信号に施すとよい。すなわち、ベ
イヤー配列の場合はG信号にかけるPre-LPF は斜めの帯
域を落とし、R,B信号にかけるPre-LPF は斜めの帯域
を保持する。
When a reduced image is generated from a CCDRAW image acquired by an imaging device using a Bayer array primary color filter, the Pre-LPF in FIG. 7 is applied to the G signal, and the Pre-LPF in FIG. , B signal. That is, in the case of the Bayer array, the Pre-LPF applied to the G signal drops the diagonal band, and the Pre-LPF applied to the R and B signals holds the diagonal band.

【0062】このようなPre-LPF を用いることにより、
各色のサンプリング周波数を犠牲にすることなく、また
画像再現後の偽色発生も最小限に抑制することが可能に
なる。
By using such Pre-LPF,
It is possible to minimize the occurrence of false colors after image reproduction without sacrificing the sampling frequency of each color.

【0063】図7及び図8では11×11画素のマトリ
ックス状フィルタを例示したが、フィルタの形態はこれ
に限定されず、色配列を考慮して適宜設計可能である。
入力されるCCDRAW画像の画素配列が固定である場合(CC
DRAWデータの規格が決まっている場合)には、フィルタ
の構成を固定して設計することができる。複数種類の画
素配列パターンのCCDRAW画像を取り扱うことを想定する
場合(多様な形式のCCDRAWデータ処理に対応する汎用ソ
フトとして構成する場合)には、色配列の情報に応じて
フィルタの構成(フィルタ係数)を可変設定することが
好ましい。
7 and 8 exemplify an 11 × 11 pixel matrix filter, the form of the filter is not limited to this, and can be appropriately designed in consideration of the color arrangement.
When the pixel array of the input CCDRAW image is fixed (CC
If the standard for DRAW data is determined), the filter configuration can be fixed. When it is assumed that CCDRAW images of multiple types of pixel array patterns are handled (when configured as general-purpose software that supports processing of various types of CCDRAW data), the filter configuration (filter coefficient) depends on the color array information. ) Is preferably variably set.

【0064】汎用タイプのソフトにするためには、画素
配列の情報を認識してフィルタの形態を可変設定する。
例えば、CCDRAW画像のファイルに撮像素子のカラーフィ
ルタ情報を付加しておき、画像処理時にそのカラーフィ
ルタ情報を読み込んで、その色配列の再現特性の特徴を
維持するようなPre-LPF を自動的に設定する。
In order to make the software of general-purpose type, the filter form is variably set by recognizing the information of the pixel arrangement.
For example, pre-LPF that automatically adds color filter information of the image sensor to a CCDRAW image file, reads the color filter information during image processing, and maintains the characteristics of the reproduction characteristics of the color arrangement automatically. Set.

【0065】上述した本発明の実施形態によれば、大サ
イズのCCDRAW画像から同じ再現帯域の特徴を有する縮小
CCDRAW画像を生成することができ、その縮小CCDRAW画像
に画像再現処理(ガンマ変換、ホワイトバランス調整、
同時化などの処理)を施して、最終的な縮小画像を得る
ようにしたので、最終画像における偽色の発生を防止で
きるとともに、各色信号の最大解像感を保持することが
できる。
According to the embodiment of the present invention described above, the reduction having the characteristics of the same reproduction band from a large-size CCDRAW image.
A CCDRAW image can be generated, and image reproduction processing (gamma conversion, white balance adjustment,
Since the final reduced image is obtained by performing processing such as synchronization, it is possible to prevent generation of false colors in the final image and to maintain the maximum resolution of each color signal.

【0066】本発明の実施形態は、画像加工アプリケー
ション上で画像を編集する際に、その処理結果を高速表
示させる場合において極めて有効である。本発明によれ
ば、色調の変更や明るさの変更といった画像編集の結果
を高速表示することが可能である。すなわち、原画像の
再現特性の特徴を保持した縮小RAW 画像を生成し、この
縮小RAW 画像に対して、色調の変更等の編集指示に基づ
く信号処理を施すため、処理結果を短時間で表示でき
る。
The embodiment of the present invention is extremely effective in displaying the processing result at high speed when editing an image on an image processing application. According to the present invention, it is possible to display a result of image editing such as a change in color tone or a change in brightness at high speed. In other words, a reduced RAW image that retains the characteristics of the reproduction characteristics of the original image is generated, and signal processing is performed on the reduced RAW image based on editing instructions such as changing the tone, so that the processing result can be displayed in a short time. .

【0067】図9にアプリケーション画面の例を示す。
同図によれば、編集パラメータを指定する入力ウィンド
ウ80の横に処理結果の縮小画像(縮小版最終画像)を
表示するプレビュー表示部82が形成される。ユーザが
編集パラメータを変更すると、その入力に応じて縮小画
像の信号処理が行われ、その処理結果がプレビュー表示
部82に表示される。ユーザはプレビュー表示部82の
縮小画像を確認しながら編集パラメータを適宜調節し、
パラメータを決定する。パラメータ決定後に、大サイズ
の原画像に対して再現処理を実施し、最終画像を得る。
パラメータの調節段階(画像編集段階)で大サイズの原
画像を取り扱う場合と比較して、処理時間を大幅に短縮
できる。
FIG. 9 shows an example of an application screen.
As shown in the figure, a preview display unit 82 is formed that displays a reduced image (reduced version final image) as a processing result beside an input window 80 for specifying editing parameters. When the user changes the editing parameters, the reduced image signal processing is performed in accordance with the input, and the processing result is displayed on the preview display unit 82. The user appropriately adjusts the editing parameters while confirming the reduced image on the preview display unit 82,
Determine the parameters. After determining the parameters, reproduction processing is performed on the large-size original image to obtain a final image.
Compared with the case of handling a large original image at the parameter adjustment stage (image editing stage), the processing time can be greatly reduced.

【0068】本発明を実施する手段はパソコンに限ら
ず、専用の画像処理装置(画像再生装置や画像加工装
置)であってもよい。また、画像処理はソフトウエアで
実現する態様に限らず、その処理の一部又は全部を専用
のハードウェア(信号処理回路)で実現してもよい。
The means for carrying out the present invention is not limited to a personal computer, but may be a dedicated image processing apparatus (image reproducing apparatus or image processing apparatus). Further, the image processing is not limited to a mode realized by software, and part or all of the processing may be realized by dedicated hardware (signal processing circuit).

【0069】また、上述した画像表示機能を実現させる
ためのコンピュータプログラムをCD−ROMや磁気デ
ィスクその他の記録媒体に記録し、記録媒体を通じて当
該プログラムを第三者に提供したり、インターネットな
どの通信回線を通じて当該プログラムのダウンロードサ
ービスを提供することも可能である。
Further, a computer program for realizing the above-described image display function is recorded on a CD-ROM, a magnetic disk or other recording medium, and the program is provided to a third party through the recording medium, or communication such as the Internet. It is also possible to provide a download service for the program through a line.

【0070】更に、上記した実施の形態では、CCDRAW画
像に対して上記のPre-LPF を施す前に色分離工程を設け
たが(図4の♯1)、本発明の実施に際して色分離工程
は必ずしも必須ではない。例えば、CCDRAW画像のフォー
マットを考慮した形にPre-LPF を変形しておけば、色分
離工程(図4の#1)及び再配置工程(図4の#3)を
省略できる。
Further, in the above-described embodiment, the color separation step is provided before the above-mentioned Pre-LPF is applied to the CCDRAW image (# 1 in FIG. 4). Not necessarily required. For example, if the Pre-LPF is modified in consideration of the CCDRAW image format, the color separation step (# 1 in FIG. 4) and the rearrangement step (# 3 in FIG. 4) can be omitted.

【0071】[0071]

【発明の効果】以上説明したように本発明によれば、同
時化等の信号処理を経ていない未加工の原画像から縮小
原画像を得る際に、原信号の二次元的再現帯域と相似な
二次元的帯域特性を有するローパスフィルタを施すよう
にしたので、現信号の再現帯域の特徴を保持することが
でき、縮小原画像から生成される最終画像における偽色
の発生を防止できるとともに、各色信号の最大解像感を
保持できる。
As described above, according to the present invention, when a reduced original image is obtained from an unprocessed original image that has not undergone signal processing such as synchronization, it is similar to the two-dimensional reproduction band of the original signal. Since a low-pass filter having a two-dimensional band characteristic is applied, the characteristics of the reproduction band of the current signal can be maintained, and the occurrence of false colors in the final image generated from the reduced original image can be prevented. The maximum resolution of the signal can be maintained.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施形態に係る画像処理方法が適用さ
れる原画像を記録する撮像装置の構成例を示すブロック
FIG. 1 is a block diagram illustrating a configuration example of an imaging apparatus that records an original image to which an image processing method according to an embodiment of the present invention is applied.

【図2】原色タイプのカラーフィルタ配列の例を示す模
式図
FIG. 2 is a schematic diagram illustrating an example of a primary color type color filter array;

【図3】本発明の実施形態に係る画像処理プログラムが
組み込まれるパソコンのハードウェア構成例を示すブロ
ック図
FIG. 3 is a block diagram showing a hardware configuration example of a personal computer in which an image processing program according to an embodiment of the present invention is incorporated.

【図4】CCDRAW画像から縮小画像を生成する画像処理の
手順を示す処理ブロック図
FIG. 4 is a processing block diagram showing an image processing procedure for generating a reduced image from a CCDRAW image.

【図5】図4に示した画像処理プロセスに従ってハニカ
ム配列の画像を処理する例を示す説明図
FIG. 5 is an explanatory diagram showing an example of processing an image of a honeycomb array in accordance with the image processing process shown in FIG.

【図6】ハニカム配列及びベイヤー配列のそれぞれの場
合について、サンプリング定理に基づく各色の再現帯域
を空間周波数座標上に表した図
FIG. 6 is a diagram showing the reproduction band of each color on the spatial frequency coordinate based on the sampling theorem for each of the honeycomb array and the Bayer array.

【図7】図5に示した画像処理プロセスにおいて、R,
B信号に対して施すPre-LPF の例を示す図
7 is a diagram showing an image processing process shown in FIG.
Diagram showing an example of Pre-LPF applied to the B signal

【図8】図5に示した画像処理プロセスにおいて、G信
号に対して施すPre-LPF の例を示す図
8 is a diagram showing an example of a Pre-LPF applied to a G signal in the image processing process shown in FIG.

【図9】本発明の実施形態に係る画像処理プログラムが
適用されたアプリケーション画面の一例を示す図
FIG. 9 is a diagram showing an example of an application screen to which the image processing program according to the embodiment of the present invention is applied.

【符号の説明】[Explanation of symbols]

10…撮像装置、12…撮像部、14…メモリカード、
18…カラーフィルタ、20…撮像素子、22…CP
U、50…パソコン、52…CPU、54…RAM、5
8…ハードディスク装置
DESCRIPTION OF SYMBOLS 10 ... Imaging device, 12 ... Imaging part, 14 ... Memory card,
18 ... color filter, 20 ... image sensor, 22 ... CP
U, 50 ... PC, 52 ... CPU, 54 ... RAM, 5
8. Hard disk device

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 9/07 H04N 1/40 D 5C079 9/79 1/46 Z // H04N 101:00 9/79 G Fターム(参考) 5B057 BA02 BA12 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC01 CD07 CE06 CE17 CG01 CH07 CH08 CH11 5C055 AA06 BA06 CA16 EA05 5C065 AA03 BB48 EE05 EE06 GG05 5C076 AA22 BB06 5C077 MM03 MP08 PP01 PP15 PP20 PP32 PP37 PQ08 PQ12 PQ22 RR19 RR21 SS03 TT09 5C079 HB01 JA14 JA16 JA23 LA12 LA14 LA23 LA31 LB01 MA02 MA04 MA11 MA17 NA11 ──────────────────────────────────────────────────── ─── Continued on the front page (51) Int.Cl. 7 Identification symbol FI Theme code (reference) H04N 9/07 H04N 1/40 D 5C079 9/79 1/46 Z // H04N 101: 00 9/79 G F-term (reference) 5B057 BA02 BA12 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC01 CD07 CE06 CE17 CG01 CH07 CH08 CH11 5C055 AA06 BA06 CA16 EA05 5C065 AA03 BB48 EE05 EE06 GG05 5C076 AA22 BB03 PP RR21 SS03 TT09 5C079 HB01 JA14 JA16 JA23 LA12 LA14 LA23 LA31 LB01 MA02 MA04 MA11 MA17 NA11

Claims (3)

【特許請求の範囲】[Claims] 【請求項1】 色配列の周期性が異なる複数色の画素か
らなる原画像のデジタル画像信号から縮小画像を生成す
る画像処理方法であって、 前記原画像の各色信号について前記色配列とサンプリン
グ定理から規定される各色の二次元的再現帯域に相似な
二次元的帯域特性を有するローパスフィルタを施すフィ
ルタ処理工程と、 前記フィルタ処理工程を経て生成された画像から画素を
間引いて縮小原画像を生成する縮小化処理工程と、 前記縮小化処理で生成された縮小原画像に対して画像再
現の信号処理を行うことにより前記原画像の縮小画像を
得る再現処理工程と、 を含むことを特徴とする画像処理方法。
1. An image processing method for generating a reduced image from a digital image signal of an original image composed of pixels of a plurality of colors having different periodicity of the color arrangement, wherein the color arrangement and the sampling theorem for each color signal of the original image A filter processing step of applying a low-pass filter having a two-dimensional band characteristic similar to the two-dimensional reproduction band of each color defined from the above, and generating a reduced original image by thinning out pixels from the image generated through the filter processing step A reduction processing step, and a reproduction processing step of obtaining a reduced image of the original image by performing image reproduction signal processing on the reduced original image generated by the reduction processing. Image processing method.
【請求項2】 色配列の周期性が異なる複数色の画素か
らなる原画像のデジタル画像信号から縮小画像を生成す
る画像処理機能をコンピュータに実現させるためのプロ
グラムであって、 前記原画像の各色信号について前記色配列とサンプリン
グ定理から規定される各色の二次元的再現帯域に相似な
二次元帯域特性を有するローパスフィルタを施すフィル
タ処理機能と、 前記フィルタ処理機能を経て生成された画像から画素を
間引いて縮小原画像を生成する縮小化処理機能と、 前記縮小化処理で生成された縮小原画像に対して画像再
現の信号処理を行うことにより前記原画像の縮小画像を
得る再現処理機能と、 をコンピュータに実現させることを特徴とする画像処理
プログラム。
2. A program for causing a computer to realize an image processing function for generating a reduced image from a digital image signal of an original image composed of pixels of a plurality of colors with different periodicity of color arrangement, each color of the original image A filter processing function that applies a low-pass filter having a two-dimensional band characteristic similar to the two-dimensional reproduction band of each color defined by the color arrangement and the sampling theorem for the signal, and a pixel from an image generated through the filter processing function A reduction processing function for generating a reduced original image by thinning, a reproduction processing function for obtaining a reduced image of the original image by performing image reproduction signal processing on the reduced original image generated by the reduction processing; An image processing program for causing a computer to realize the above.
【請求項3】 前記原画像は、R(赤),G(緑),B
(青)の原色カラーフィルタを搭載した単板カラー撮像
装置を用いて取得された画像であり、ガンマ変換、ホワ
イトバランス調整及び同時化などの信号処理が行われて
いないデジタル画像であることを特徴とする請求項2記
載の画像処理プログラム。
3. The original image includes R (red), G (green), and B
It is an image acquired using a single-plate color imaging device equipped with a (blue) primary color filter, and is a digital image that is not subjected to signal processing such as gamma conversion, white balance adjustment, and synchronization The image processing program according to claim 2.
JP2002154906A 2002-05-29 2002-05-29 Image processing method and image processing program Expired - Fee Related JP4096626B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002154906A JP4096626B2 (en) 2002-05-29 2002-05-29 Image processing method and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002154906A JP4096626B2 (en) 2002-05-29 2002-05-29 Image processing method and image processing program

Publications (2)

Publication Number Publication Date
JP2003346143A true JP2003346143A (en) 2003-12-05
JP4096626B2 JP4096626B2 (en) 2008-06-04

Family

ID=29771544

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002154906A Expired - Fee Related JP4096626B2 (en) 2002-05-29 2002-05-29 Image processing method and image processing program

Country Status (1)

Country Link
JP (1) JP4096626B2 (en)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008086050A (en) * 2005-09-30 2008-04-10 Seiko Epson Corp Image processing apparatus and image processing program
JP2009077274A (en) * 2007-09-21 2009-04-09 Konica Minolta Opto Inc Image processing device, image processing method, and imaging apparatus
JP2009159359A (en) * 2007-12-27 2009-07-16 Samsung Techwin Co Ltd Moving image data encoding apparatus, moving image data decoding apparatus, moving image data encoding method, moving image data decoding method and program
WO2010016166A1 (en) * 2008-08-04 2010-02-11 パナソニック株式会社 Imaging device, image processing method, image processing program and semiconductor integrated circuit
US8077253B2 (en) 2008-06-17 2011-12-13 Kabushiki Kaisha Toshiba Solid-state device having digital signal processing circuit
CN101453543B (en) * 2007-12-03 2012-07-25 村田机械株式会社 Image processing apparatus
US8269850B2 (en) 2007-06-07 2012-09-18 Sony Corporation Signal processing method and signal processing system
US8350926B2 (en) 2005-06-03 2013-01-08 Sony Corporation Imaging apparatus, method of processing imaging result, image processing apparatus, program of imaging result processing method, recording medium storing program of imaging result processing method, and imaging result processing system
US8369654B2 (en) 2007-05-08 2013-02-05 Seiko Epson Corporation Developing apparatus, developing method and computer program for developing processing for an undeveloped image
JP2013157807A (en) * 2012-01-30 2013-08-15 Sigma Corp Image signal processing method, image signal processing circuit, and imaging device
JP2013219616A (en) * 2012-04-10 2013-10-24 Canon Inc Image capture apparatus, control method, and program
CN103563350A (en) * 2011-05-31 2014-02-05 松下电器产业株式会社 Image processing device, image processing method, and digital camera
WO2015098305A1 (en) * 2013-12-27 2015-07-02 リコーイメージング株式会社 Image capturing device, image capturing method, and program
US9386287B2 (en) 2011-06-08 2016-07-05 Panasonic Intellectual Property Management Co., Ltd. Image processor which rearranges color information, image processing method, and digital camera
KR20180041673A (en) * 2015-08-20 2018-04-24 퀄컴 인코포레이티드 Systems and methods for configurable demodulation
US10397587B2 (en) 2016-05-02 2019-08-27 Canon Kabushiki Kaisha Image processing apparatus and control method thereof

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8350926B2 (en) 2005-06-03 2013-01-08 Sony Corporation Imaging apparatus, method of processing imaging result, image processing apparatus, program of imaging result processing method, recording medium storing program of imaging result processing method, and imaging result processing system
JP2008086050A (en) * 2005-09-30 2008-04-10 Seiko Epson Corp Image processing apparatus and image processing program
US8369654B2 (en) 2007-05-08 2013-02-05 Seiko Epson Corporation Developing apparatus, developing method and computer program for developing processing for an undeveloped image
US8269850B2 (en) 2007-06-07 2012-09-18 Sony Corporation Signal processing method and signal processing system
JP2009077274A (en) * 2007-09-21 2009-04-09 Konica Minolta Opto Inc Image processing device, image processing method, and imaging apparatus
CN101453543B (en) * 2007-12-03 2012-07-25 村田机械株式会社 Image processing apparatus
JP2009159359A (en) * 2007-12-27 2009-07-16 Samsung Techwin Co Ltd Moving image data encoding apparatus, moving image data decoding apparatus, moving image data encoding method, moving image data decoding method and program
US8077253B2 (en) 2008-06-17 2011-12-13 Kabushiki Kaisha Toshiba Solid-state device having digital signal processing circuit
US8223219B2 (en) 2008-08-04 2012-07-17 Panasonic Corporation Imaging device, image processing method, image processing program and semiconductor integrated circuit
WO2010016166A1 (en) * 2008-08-04 2010-02-11 パナソニック株式会社 Imaging device, image processing method, image processing program and semiconductor integrated circuit
JP5280448B2 (en) * 2008-08-04 2013-09-04 パナソニック株式会社 Image processing apparatus, image processing method, image processing program, and semiconductor integrated circuit
CN103563350A (en) * 2011-05-31 2014-02-05 松下电器产业株式会社 Image processing device, image processing method, and digital camera
US8995792B2 (en) 2011-05-31 2015-03-31 Panasonic Intellectual Property Management Co., Ltd. Image processor, image processing method, and digital camera
CN103563350B (en) * 2011-05-31 2016-09-28 松下知识产权经营株式会社 Image processing apparatus, image processing method and digital camera
US9386287B2 (en) 2011-06-08 2016-07-05 Panasonic Intellectual Property Management Co., Ltd. Image processor which rearranges color information, image processing method, and digital camera
JP2013157807A (en) * 2012-01-30 2013-08-15 Sigma Corp Image signal processing method, image signal processing circuit, and imaging device
JP2013219616A (en) * 2012-04-10 2013-10-24 Canon Inc Image capture apparatus, control method, and program
WO2015098305A1 (en) * 2013-12-27 2015-07-02 リコーイメージング株式会社 Image capturing device, image capturing method, and program
JPWO2015098305A1 (en) * 2013-12-27 2017-03-23 リコーイメージング株式会社 Imaging apparatus, imaging method, and program
US10129479B2 (en) 2013-12-27 2018-11-13 Ricoh Imaging Company, Ltd. Photographing apparatus and photographing method with optical low-pass filter effect
KR20180041673A (en) * 2015-08-20 2018-04-24 퀄컴 인코포레이티드 Systems and methods for configurable demodulation
JP2018523949A (en) * 2015-08-20 2018-08-23 クアルコム,インコーポレイテッド System and method for configurable demodulation
JP2021170824A (en) * 2015-08-20 2021-10-28 クアルコム,インコーポレイテッド Systems and methods for configurable demodulation
KR102529351B1 (en) * 2015-08-20 2023-05-04 퀄컴 인코포레이티드 Systems and methods for configurable demodulation
US10397587B2 (en) 2016-05-02 2019-08-27 Canon Kabushiki Kaisha Image processing apparatus and control method thereof

Also Published As

Publication number Publication date
JP4096626B2 (en) 2008-06-04

Similar Documents

Publication Publication Date Title
US8223219B2 (en) Imaging device, image processing method, image processing program and semiconductor integrated circuit
JP4840967B2 (en) Imaging apparatus, image processing method, program, and storage medium
JP5845464B2 (en) Image processing apparatus, image processing method, and digital camera
JP4943721B2 (en) Color noise removal method for image data and imaging apparatus using the method
JP4096626B2 (en) Image processing method and image processing program
JP5240194B2 (en) Signal processing method and signal processing apparatus
JP2004128809A (en) Method and apparatus for image processing, and imaging device
US20060050956A1 (en) Signal processing apparatus, signal processing method, and signal processing program
WO2012169140A1 (en) Image processing device, image processing method and digital camera
JP2006262451A (en) Image recording apparatus and method
JP4433883B2 (en) White balance correction device, white balance correction method, program, and electronic camera device
JP2002300372A (en) Image processing device, recording medium for recording image processing program, and image reproducing device
US7327876B2 (en) Image processing device
JPH11168745A (en) Digital camera
JP4003172B2 (en) Image signal processing apparatus and electronic camera
US7469059B1 (en) Reorganization of raw image data for processing
JP2000232618A (en) Photo-finishing method, system therefor and recording medium
JP4966680B2 (en) Video playback device, video playback method, and imaging device
JP2002330322A (en) Electronic camera
JP2002209100A (en) Image processor and image processing method
JP2002330387A (en) Electronic camera
JP2007180599A (en) Imaging apparatus, imaging apparatus control method, and imaging apparatus control program
JP2004247807A (en) Recording method and image reproducing method for group image
JP2002330331A (en) Electronic camera
JP2000217124A (en) Image pickup device and image processing method for the image pickup device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050215

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080303

R150 Certificate of patent or registration of utility model

Ref document number: 4096626

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110321

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110321

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120321

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120321

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130321

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130321

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140321

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees