JP2006203438A - Camera and its image processing method - Google Patents

Camera and its image processing method Download PDF

Info

Publication number
JP2006203438A
JP2006203438A JP2005011618A JP2005011618A JP2006203438A JP 2006203438 A JP2006203438 A JP 2006203438A JP 2005011618 A JP2005011618 A JP 2005011618A JP 2005011618 A JP2005011618 A JP 2005011618A JP 2006203438 A JP2006203438 A JP 2006203438A
Authority
JP
Japan
Prior art keywords
pixel
interpolation
coefficient
output
sequentially
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005011618A
Other languages
Japanese (ja)
Other versions
JP4715210B2 (en
Inventor
Masateru Nishimoto
正輝 西本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005011618A priority Critical patent/JP4715210B2/en
Publication of JP2006203438A publication Critical patent/JP2006203438A/en
Application granted granted Critical
Publication of JP4715210B2 publication Critical patent/JP4715210B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To enhance the image quality of a reduced image through reduction processing combining decimation processing and average processing of image information being outputted from an imaging element. <P>SOLUTION: Pixel position detecting/coefficient selecting sections 10 and 12 input movement amount data indicative of the magnification for CCD data (pixel data), and an offset for first pixel and an offset for second pixel indicative of reduction start position. The pixel position detecting/coefficient selecting sections 10 and 12 determine the position of an interpolation pixel depending on offset and movement amount data, and transmit coefficient data for pixels before and behind that interpolation position from coefficient selecting sections 23 and 33 to a reduction operating section 14. The reduction operating section 14 multiplies the CCD data (pixel data) before and behind the interpolation position by the coefficient data and adds the products to create pixel information of interpolation pixel. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、デジタルスチルカメラやデジタルビデオカメラなどの静止画撮影モードの他に動画を撮影する動画撮影モードが設けられたカメラ装置、及び画像処理方法に関する。   The present invention relates to a camera apparatus provided with a moving image shooting mode for shooting a moving image in addition to a still image shooting mode such as a digital still camera or a digital video camera, and an image processing method.

一般に、電子スチルカメラでは、静止画像を撮影して記録するだけでなく、動画像を撮影して記録することができる動画撮影モードが設けられている。動画撮影モードにおける撮影では、静止画像を撮影する場合と比較して大幅に画像処理速度が求められるために、撮像素子(CCDセンサ)から入力された画像データを縮小し、画像サイズを小さくすることで処理速度の向上を図り、入力された画像データに対するリアルタイム処理を実現している。   In general, an electronic still camera is provided with a moving image shooting mode capable of shooting and recording a moving image as well as shooting and recording a still image. When shooting in the movie shooting mode, the image processing speed is required to be significantly higher than when shooting still images. Therefore, the image data input from the image sensor (CCD sensor) is reduced to reduce the image size. In this way, the processing speed is improved and real-time processing for the input image data is realized.

従来、CCDセンサから出力された画像データを縮小する場合、複数の画素の平均値を算出して補間画素の画素値とする平均処理が良く使用されている。   Conventionally, when reducing image data output from a CCD sensor, an averaging process is often used in which an average value of a plurality of pixels is calculated to obtain a pixel value of an interpolation pixel.

また従来では、間引き読み出し可能な単板カラー撮像素子を用いて、この撮像素子から間引き読み出しした信号を補間して縮小画像を生成する間引き補間回路と、通常読み出しした信号を補間して縮小なしのカラー画像を生成する補間回路とを備え、画素ブロックにおいて、GとRそれぞれの4つのフィルタ位置の信号を平均化して読み出す画素ブロックと、GとBそれぞれの4つのフィルタ位置の信号を平均化して読み出す画素ブロックとが市松状に配置して、フレーム毎に市松状配置が反転する如く間引き処理が行われるように構成した撮像装置も考えられている(例えば、特許文献1)。
特開2004−15772号公報
In addition, conventionally, a single-chip color image sensor capable of thinning-out readout is used, and a thinning-out interpolation circuit that generates a reduced image by interpolating a signal read out from the imaging element, and a normal readout signal is interpolated without reduction An interpolation circuit that generates a color image, and in the pixel block, a pixel block that averages and reads out the signals at the four filter positions of G and R, and an average of the signals at the four filter positions of G and B There is also considered an imaging apparatus configured such that pixel blocks to be read are arranged in a checkered pattern and the thinning process is performed so that the checkered pattern is reversed for each frame (for example, Patent Document 1).
JP 2004-15772 A

従来、平均処理を用いて画像を縮小する構成では、圧縮率が高い場合には広範囲の領域に含まれる実画素のデータを用いて平均値を算出することになる。この場合、補間位置の画素とは関係のない実画素のデータも混在してしまう可能性が高くなり、画質が悪くなってしまうという問題があった。   Conventionally, in a configuration in which an image is reduced using average processing, when the compression rate is high, an average value is calculated using data of actual pixels included in a wide area. In this case, there is a high possibility that data of actual pixels unrelated to the pixel at the interpolation position will be mixed, and the image quality will deteriorate.

また、特許文献1に記載された撮像装置では、撮像素子から間引き読み出しした信号を補間して縮小し、画素ブロックにおいて平均化して読み出すことで縮小画像へのモアレの混入を抑制する構成としていた。すなわち、撮像素子から出力される信号において既に間引きが行われているため、この時点でデータ量が削減されており、撮像素子から出力された信号(データ)に対しては単に平均化しているに過ぎず、縮小画像の高画質化を図るものではなかった。   Further, the imaging apparatus described in Patent Document 1 is configured to suppress the mixing of moiré in the reduced image by interpolating and reducing the signals read out from the imaging element and averaging the signals in the pixel block. In other words, since the signal output from the image sensor has already been thinned out, the amount of data is reduced at this point, and the signal (data) output from the image sensor is simply averaged. However, it was not intended to improve the quality of reduced images.

本発明の課題は、撮像素子から出力される画素情報に対する間引き処理と平均処理を組み合わせた縮小処理により、縮小画像の高画質化を図ることが可能なカメラ装置、カメラ装置の画像処理方法を提供することにある。   An object of the present invention is to provide a camera device and an image processing method for the camera device capable of improving the image quality of a reduced image by a reduction process combining a thinning process and an average process for pixel information output from an image sensor. There is to do.

請求項1記載の発明は、画素の画素情報を配列の順番に逐次出力する撮像素子と、前記撮像素子により出力された各画素の画素情報に対する倍率を設定する倍率設定手段と、前記倍率設定手段によって設定された倍率に応じて補間画素の位置情報を順番に生成して逐次出力する位置生成手段と、前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第1画素情報記憶手段と、前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素に対する補間係数を逐次生成して出力する第1係数生成手段と、前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第2画素情報記憶手段と、前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素に対する補間係数を逐次生成して出力する第2係数生成手段と、前記第1画素情報記憶手段に記憶されている画素情報に前記第1係数生成手段が出力する係数を乗算した値と、前記第2画素情報記憶手段に記憶されている画素情報に前記第2係数生成手段が出力する係数を乗算した値とを加算する演算により前記補間画素の画素情報を逐次生成する演算手段とを具備したことを特徴とする。   The invention according to claim 1 is an image sensor that sequentially outputs pixel information of pixels in the order of arrangement, a magnification setting unit that sets a magnification for pixel information of each pixel output by the image sensor, and the magnification setting unit. Position generating means that sequentially generates and sequentially outputs position information of the interpolation pixels according to the magnification set by the position, and immediately before the position according to the position information of the interpolation pixels that are sequentially output by the position generation means. The first pixel information storage unit that sequentially inputs certain real pixel information from the image sensor and stores the actual pixel information while sequentially updating the information, and the position information of the interpolation pixel that is sequentially output by the position generation unit immediately before the position. First coefficient generation means for sequentially generating and outputting an interpolation coefficient for an actual pixel in the position, and the position information of the interpolation pixel sequentially output by the position generation means, In accordance with the position information of the interpolation pixel sequentially output by the second pixel information storage means that sequentially inputs the actual pixel information immediately after the position from the image pickup device and stores it while sequentially updating, A second coefficient generation means for sequentially generating and outputting an interpolation coefficient for an actual pixel immediately after the position; and a coefficient output by the first coefficient generation means for pixel information stored in the first pixel information storage means The pixel information of the interpolated pixels is sequentially generated by adding the value obtained by multiplying the pixel information stored in the second pixel information storage unit by the value obtained by multiplying the coefficient output from the second coefficient generation unit. And an arithmetic means for performing the processing.

請求項2記載の発明は、請求項1記載の発明において、前記撮像手段からは異なる2つの色に対応する画素情報を交互に出力し、前記画素情報の色毎に前記補間画素の画素情報を生成することを特徴とする。   According to a second aspect of the present invention, in the first aspect of the invention, pixel information corresponding to two different colors is alternately output from the imaging unit, and the pixel information of the interpolated pixel is obtained for each color of the pixel information. It is characterized by generating.

請求項3記載の発明は、請求項1記載の発明において、前記第1及び第2係数生成手段は、前記撮像素子から出力される異なる2つの色の各々に対応して2つ設けられることを特徴とする。   According to a third aspect of the present invention, in the first aspect of the present invention, two first and second coefficient generation units are provided corresponding to each of two different colors output from the image sensor. Features.

請求項4記載の発明は、請求項1記載の発明において、前記第1及び第2画素記憶手段は、前記撮像素子から出力される異なる2つの色の各々に対応して2つ設けられることを特徴とする。   According to a fourth aspect of the present invention, in the first aspect of the present invention, two first and second pixel storage units are provided corresponding to each of two different colors output from the imaging device. Features.

請求項5記載の発明は、請求項1記載の発明において、前記撮像素子から出力される画素情報をそのまま記録する静止画モードと、前記画素情報に対して縮小処理を施して記録する動画像モードとが選択されるもので、前記動画像モードが選択された場合に前記倍率設定手段により縮小率を設定して、前記補間画素の画素情報を生成することを特徴とする。   According to a fifth aspect of the present invention, in the first aspect of the present invention, the still image mode in which the pixel information output from the image sensor is recorded as it is, and the moving image mode in which the pixel information is subjected to reduction processing and recorded. When the moving image mode is selected, a reduction ratio is set by the magnification setting means, and pixel information of the interpolation pixel is generated.

請求項6記載の発明は、請求項1または5記載の発明において、動画撮影時において、所定のフレームレートで逐次撮像される各動画フレームの画像データに対して、前記位置生成手段、前記第1画素情報記憶手段、前記第1係数生成手段、前記第2画素情報記憶手段、前記第2係数生成手段、前記演算手段、の処理を繰り返しリアルタイムに実行することを特徴とする。   According to a sixth aspect of the present invention, in the first or fifth aspect of the present invention, the position generating means, the first, and the first image data of each moving image frame sequentially captured at a predetermined frame rate during moving image shooting. The processing of the pixel information storage unit, the first coefficient generation unit, the second pixel information storage unit, the second coefficient generation unit, and the calculation unit is repeatedly executed in real time.

請求項7記載の発明は、撮像素子から配列の順番で逐次出力される画素の画素情報に対する倍率を設定する倍率設定ステップと、前記倍率設定ステップによって設定された倍率に応じて補間画素の位置情報を順番に生成して逐次出力する位置生成ステップと、前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第1画素情報記憶ステップと、前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素に対する補間係数を逐次生成して出力する第1係数生成ステップと、前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第2画素情報記憶ステップと、前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素に対する補間係数を逐次生成して出力する第2係数生成ステップと、前記第1画素情報記憶ステップにより記憶された画素情報に前記第1係数生成ステップで出力された係数を乗算した値と、前記第2画素情報記憶ステップにより記憶された画素情報に前記第2係数生成ステップで出力された係数を乗算した値とを加算する演算により前記補間画素の画素情報を逐次生成する演算ステップとを具備したことを特徴とする。   According to a seventh aspect of the present invention, there is provided a magnification setting step for setting a magnification for pixel information of pixels that are sequentially output from the image sensor in the order of arrangement, and position information of the interpolation pixel according to the magnification set by the magnification setting step. In accordance with position information of the interpolated pixels sequentially output by the position generation step, and real pixel information immediately before the position is sequentially input from the image sensor. In accordance with the position information of the interpolated pixels sequentially output by the first pixel information storing step that is stored while sequentially updating and the position generating step, the interpolation coefficient for the actual pixel immediately before the position is sequentially generated and output. The first coefficient generation step and the position information of the interpolation pixel sequentially output by the position generation step, immediately after the position The second pixel information storage step that sequentially inputs the actual pixel information from the image sensor and stores the pixel information while sequentially updating the position, and the position information of the interpolated pixel that is sequentially output by the position generation step, immediately after the position. A value obtained by multiplying the pixel information stored in the first pixel information storage step by the coefficient output in the first coefficient generation step A calculation step of sequentially generating pixel information of the interpolated pixels by an operation of adding the pixel information stored in the second pixel information storage step and a value obtained by multiplying the coefficient output in the second coefficient generation step; It is characterized by comprising.

請求項8記載の発明は、撮像素子から交互に出力される異なる2つの色に対応する画素情報をもとに画素を補間するカメラ装置において、倍率の指定に応じて第1の色の画素に対する補間画素の位置を設定する第1設定手段と、前記第1設定手段によって設定された補間位置に応じて、前記第1の色の画素に対する補間位置の前後に位置する同色画素に対する2つの補間係数データを出力する第1補間係数出力手段と、倍率の指定に応じて第2の色の画素に対する補間画素の位置を設定する第2設定手段と、前記第2設定手段によって設定された補間位置に応じて、前記第2の色の画素に対する補間位置の前後に位置する同色画素に対する2つの補間係数データを出力する第2補間係数出力手段と、前記撮像素子から交互に出力される第1及び第2の色の画素情報を逐次記憶する画素情報記憶手段と、前記画素情報記憶手段に記憶された前記第1の色の前記補間画素の前後に位置する2つの画素情報に対して、前記第1補間係数出力手段によって出力された2つの補間係数データをそれぞれ乗算し、その乗算結果を加算することで前記第1の色の前記補間画素の画素情報を生成する第1演算手段と、前記画素情報記憶手段に記憶された前記第2の色の前記補間画素の前後に位置する2つの画素情報に対して、前記第2補間係数出力手段によって出力された2つの補間係数データをそれぞれ乗算し、その乗算結果を加算することで前記第2の色の前記補間画素の画素情報を生成する第2演算手段とを具備したことを特徴とする。   According to an eighth aspect of the present invention, in a camera device that interpolates pixels based on pixel information corresponding to two different colors that are alternately output from an image sensor, the first color pixel is determined according to a magnification specification. A first setting means for setting the position of the interpolation pixel; and two interpolation coefficients for the same color pixel located before and after the interpolation position for the pixel of the first color according to the interpolation position set by the first setting means A first interpolation coefficient output means for outputting data; a second setting means for setting the position of the interpolation pixel with respect to the second color pixel in accordance with the designation of the magnification; and the interpolation position set by the second setting means. Accordingly, second interpolation coefficient output means for outputting two interpolation coefficient data for the same color pixel located before and after the interpolation position for the pixel of the second color, and first output output alternately from the image sensor. Pixel information storage means for sequentially storing pixel information of a second color, and two pieces of pixel information located before and after the interpolation pixel of the first color stored in the pixel information storage means; First arithmetic means for multiplying two interpolation coefficient data output by one interpolation coefficient output means and adding the multiplication results to generate pixel information of the interpolation pixels of the first color; and the pixels Multiplying two pieces of pixel information located before and after the interpolation pixel of the second color stored in the information storage means by two interpolation coefficient data output by the second interpolation coefficient output means, And a second calculation means for generating pixel information of the interpolation pixel of the second color by adding the multiplication results.

請求項1記載の発明によれば、補間画素の位置情報に応じて、当該位置の直前と直後にある実位置に対する補間係数を生成して、それぞれの実画素に対する補間係数との乗算結果を加算する演算により補間画素の画素情報を生成するので、例えば間引き処理と平均処理とを合わせた縮小処理が実行でき、単純な平均処理により補間する場合と比較して高画質な縮小画像を得ることができる。   According to the first aspect of the present invention, the interpolation coefficient for the actual position immediately before and after the position is generated according to the position information of the interpolation pixel, and the multiplication result of the interpolation coefficient for each actual pixel is added. Since the pixel information of the interpolated pixels is generated by the calculation, the reduction process combining the thinning process and the average process can be executed, for example, and a high-quality reduced image can be obtained as compared with the case of performing the interpolation by the simple average process. it can.

請求項2記載の発明によれば、請求項1の発明の効果に加えて、例えばベイヤ配列の順番で2つの色に対応する画素情報が交互に出力される場合に、画素情報の色毎に補間画素の画素情報を生成することができる。   According to the invention of claim 2, in addition to the effect of the invention of claim 1, for example, when pixel information corresponding to two colors is output alternately in the order of the Bayer array, for each color of the pixel information Pixel information of the interpolation pixel can be generated.

請求項3記載の発明によれば、請求項1の発明の効果に加えて、異なる2つの色の各々に対応して第1及び第2係数生成手段を2つ設けることで、例えば、カラー動画撮影時において、撮像素子から逐次出力される画素情報に対して遅延なく逐次処理を実行し、且つ縮小画像の高画質化を図ることができる。   According to the third aspect of the present invention, in addition to the effect of the first aspect of the invention, by providing two first and second coefficient generation means corresponding to each of two different colors, for example, a color moving image At the time of shooting, it is possible to execute sequential processing without delay for pixel information sequentially output from the image sensor and to improve the image quality of the reduced image.

請求項4記載の発明によれば、請求項1の発明の効果に加えて、異なる2つの色の各々に対応して第1及び第2画素記憶手段を2つ設けることで、撮像素子から出力される画素情報に対して逐次処理を実行しながら縮小画像の高画質化を図ることができる。   According to the fourth aspect of the present invention, in addition to the effect of the first aspect of the invention, the first and second pixel storage means are provided corresponding to each of the two different colors, so that the output from the image sensor. It is possible to improve the image quality of the reduced image while sequentially executing the pixel information.

請求項5記載の発明によれば、請求項1の発明の効果に加えて、静止画モードより高速処理が要求される動画像モードの動作時に、画像を縮小させるように縮小率を設定することで縮小処理を実行して、画像を縮小化することによるリアルタイム処理を実現することができる。   According to the fifth aspect of the present invention, in addition to the effect of the first aspect of the invention, the reduction ratio is set so that the image is reduced during the operation of the moving image mode that requires higher speed processing than the still image mode. The real-time processing can be realized by reducing the image by executing the reduction processing.

請求項6記載の発明によれば、請求項1または5記載の発明の効果に加えて、動画撮影時において、所定のフレームレートで動画フレームが逐次撮像される場合に、各動画フレームの画像データに対する補間画素の画素情報をリアルタイムで生成することができる。   According to the sixth aspect of the invention, in addition to the effect of the first or fifth aspect of the invention, when moving image frames are sequentially captured at a predetermined frame rate during moving image shooting, the image data of each moving image frame It is possible to generate pixel information of the interpolated pixels with respect to in real time.

請求項7記載の発明によれば、補間画素の位置情報に応じて、当該位置の直前と直後にある実位置に対する補間係数を生成して、それぞれの実画素に対する補間係数との乗算結果を加算する演算により補間画素の画素情報を生成するので、例えば間引き処理と平均処理とを合わせた縮小処理が実行でき、単純な平均処理により補間する場合と比較して高画質な縮小画像を得ることができる。   According to the seventh aspect of the present invention, the interpolation coefficient for the actual position immediately before and after the position is generated according to the position information of the interpolation pixel, and the multiplication result of the interpolation coefficient for each actual pixel is added. Since the pixel information of the interpolated pixels is generated by the calculation, the reduction process combining the thinning process and the average process can be executed, for example, and a high-quality reduced image can be obtained as compared with the case of performing the interpolation by the simple average process it can.

請求項8記載の発明によれば、撮像素子から交互に出力される異なる2つの色に対応する画素情報のそれぞれに対して、補間画素の位置情報に応じて、当該位置の直前と直後にある実位置に対する補間係数を生成して、それぞれの実画素に対する補間係数との乗算結果を加算する演算により補間画素の画素情報を生成するので、例えば間引き処理と平均処理とを合わせた縮小処理が実行でき、単純な平均処理により補間する場合と比較して高画質な縮小画像を、異なる2つの色に対応する画素情報のそれぞれについて得ることができる。   According to the eighth aspect of the present invention, for each piece of pixel information corresponding to two different colors that are alternately output from the image sensor, the pixel information is immediately before and after the position according to the position information of the interpolation pixel. Interpolation pixel information is generated by calculating the interpolation coefficient for the actual position and adding the multiplication result of the interpolation coefficient for each actual pixel. For example, the reduction process combining the thinning process and the averaging process is executed. It is possible to obtain a reduced image with high image quality for each piece of pixel information corresponding to two different colors as compared with the case of interpolation by simple averaging.

以下、図面を参照して本発明の実施の形態について説明する。   Embodiments of the present invention will be described below with reference to the drawings.

図1は、本実施形態におけるカメラ装置(デジタルビデオカメラ、デジタルスチルカメラ等)に設けられる画像処理装置の構成を示すブロック図である。   FIG. 1 is a block diagram showing a configuration of an image processing apparatus provided in a camera apparatus (digital video camera, digital still camera, etc.) in the present embodiment.

図1に示す画像処理装置は、カメラ装置の動画撮影モードの動作時において、撮像素子として実装されたCCD(Charge Coupled Device)から出力されるCCDデータ(RGB画像データ)に対して縮小処理を実行して画像を縮小化するものである。   The image processing apparatus shown in FIG. 1 performs a reduction process on CCD data (RGB image data) output from a CCD (Charge Coupled Device) mounted as an imaging device when the camera apparatus operates in a moving image shooting mode. Thus, the image is reduced.

本実施形態における画像処理装置は、カメラ装置全体の制御を司る制御部(CPU)のもとで動作する。カメラ装置は、通常の静止画像を撮影する静止画撮影モードの他に動画を撮影する動画撮影モードにより動作可能となっている。動画撮影モードにおいて動作する場合、CCDセンサから出力されるCCDデータに対して縮小演算を実行し画像を縮小化することで、処理速度の向上を図りリアルタイム処理を可能にする。   The image processing apparatus according to the present embodiment operates under a control unit (CPU) that controls the entire camera apparatus. The camera device can operate in a moving image shooting mode for shooting a moving image in addition to a still image shooting mode for shooting a normal still image. When operating in the moving image shooting mode, reduction processing is performed on the CCD data output from the CCD sensor to reduce the image, thereby improving the processing speed and enabling real-time processing.

なお、動画撮影モード時には、動画を構成する各フレームの画像データが、動画のフレームレートに対応する速度で逐次CCDセンサにより撮像される。そして、各フレームに含まれる複数の画素データが所定の順番で読み出される。従って、縮小処理は、各フレーム毎に繰り返しリアルタイムに実行する。ただし、理解を容易にするために、以下では1フレーム分の処理について説明する。   In the moving image shooting mode, the image data of each frame constituting the moving image is sequentially captured by the CCD sensor at a speed corresponding to the frame rate of the moving image. Then, a plurality of pixel data included in each frame is read in a predetermined order. Therefore, the reduction process is repeatedly executed in real time for each frame. However, in order to facilitate understanding, processing for one frame will be described below.

本実施形態における画像処理装置には、図1に示すように、画素位置検出/係数選択部10,12、及び縮小演算部14が設けられている。   As shown in FIG. 1, the image processing apparatus according to the present embodiment includes pixel position detection / coefficient selection units 10 and 12 and a reduction calculation unit 14.

本実施形態では、CCDセンサからは、1つのラインにおいて2つの異なる色の画素データが交互に出力される。例えば、画素の配列(例えばベイヤ配列)に従い、1ライン目のCCDデータとしてRとGのデータが交互に出力され、2ライン目のCCDデータとしてGとBのデータが交互に出力される。   In the present embodiment, pixel data of two different colors are alternately output from a CCD sensor in one line. For example, R and G data are alternately output as CCD data for the first line, and G and B data are alternately output as CCD data for the second line according to the pixel array (for example, Bayer array).

画素位置検出/係数選択部10は、CCDセンサから出力される最初の画素色(例えばR)の画素に対する補間画素位置の検出と、この検出した補間画素位置の前後に位置する実画素に対する補間画素値を算出するための係数データを出力する。画素位置検出/係数選択部12は、CCDセンサから出力される2番目の画素色(例えばG)の画素に対する補間画素位置の検出と、この検出した補間画素位置の前後に位置する実画素に対する補間画素値を算出するための係数データを出力する。縮小演算部14は、画素位置検出/係数選択部10,12から出力される係数データをもとに、最初の画素色の画素と2番目の画素色の画素のそれぞれに対して演算を実行して縮小データを出力する。   The pixel position detection / coefficient selection unit 10 detects an interpolation pixel position for a pixel of the first pixel color (for example, R) output from the CCD sensor, and an interpolation pixel for an actual pixel located before and after the detected interpolation pixel position. Coefficient data for calculating the value is output. The pixel position detection / coefficient selection unit 12 detects an interpolation pixel position for a pixel of the second pixel color (for example, G) output from the CCD sensor, and performs interpolation for an actual pixel positioned before and after the detected interpolation pixel position. Coefficient data for calculating pixel values is output. Based on the coefficient data output from the pixel position detection / coefficient selection units 10 and 12, the reduction calculation unit 14 performs a calculation on each of the first pixel color pixel and the second pixel color pixel. To output reduced data.

動画撮影モードの実行時にCPUより、画素位置検出/係数選択部10には最初の画素色の画素に対する縮小開始位置を示す1st画素用オフセットが入力され、画素位置検出/係数選択部12には2番目の画素色の画素に対する縮小開始位置を示す2nd画素用オフセットが入力される。また、画素位置検出/係数選択部10,12と共通して画像の縮小率を示す移動量データが入力される。1st画素用オフセットと2nd画素用オフセットは、例えば実画素位置と補間画素位置とが一致することで、縮小画像中に線などが現れて画質を劣化させることがないように指定することができる。   When the moving image shooting mode is executed, the CPU receives the 1st pixel offset indicating the reduction start position for the pixel of the first pixel color from the CPU, and the pixel position detection / coefficient selection unit 12 receives 2 from the CPU. The 2nd pixel offset indicating the reduction start position for the pixel of the second pixel color is input. Further, in common with the pixel position detection / coefficient selection units 10 and 12, movement amount data indicating an image reduction rate is input. The 1st pixel offset and the 2nd pixel offset can be specified such that, for example, when the actual pixel position and the interpolation pixel position match, a line or the like appears in the reduced image and the image quality does not deteriorate.

画素位置検出/係数選択部10のセレクタ20は、同色画素の最初のCCDデータ(画素データ)が入力されるのに伴い、この色画素に対する初期オフセットとして供給される1st画素用オフセットを入力して、画素位置検出レジスタとして機能するフリップフロップ回路21にロードする。   The selector 20 of the pixel position detection / coefficient selection unit 10 inputs the 1st pixel offset supplied as the initial offset for this color pixel as the first CCD data (pixel data) of the same color pixel is input. Then, it is loaded into the flip-flop circuit 21 that functions as a pixel position detection register.

フリップフロップ回路21により保持されたオフセットの値が、同色画素の分割数(ここでは8)を越えている場合には、減算器22により−8されてセレクタ24に出力される。   When the offset value held by the flip-flop circuit 21 exceeds the number of divisions of the same color pixel (here, 8), it is reduced by -8 by the subtractor 22 and output to the selector 24.

セレクタ24は、減算器22から出力される値が8以下となるまで、減算器22の出力を選択する。セレクタ20がセレクタ24からの出力を選択することで、フリップフロップ回路21、減算器22、セレクタ24を通じて、1st画素用オフセットが8以下となるまで読み飛ばされる。   The selector 24 selects the output of the subtractor 22 until the value output from the subtracter 22 becomes 8 or less. When the selector 20 selects the output from the selector 24, reading is skipped through the flip-flop circuit 21, the subtracter 22, and the selector 24 until the 1st pixel offset becomes 8 or less.

セレクタ24は、減算器22からの出力が8以下となった場合、減算器26からの出力を選択する。すなわち、フリップフロップ回路21に保持された値が、加算器25により移動量データ(縮小開始位置)に加算された後、減算器26により−8されてセレクタ24に出力される。   The selector 24 selects the output from the subtracter 26 when the output from the subtractor 22 becomes 8 or less. That is, the value held in the flip-flop circuit 21 is added to the movement amount data (reduction start position) by the adder 25, and then is −8 by the subtractor 26 and output to the selector 24.

フリップフロップ回路21に保持された値が8以下となった場合に、係数選択部23は、フリップフロップ回路21に保持された値に応じて2つの係数(係数a,係数b)、すなわち補間画素位置の前後の画素に対する補間係数データを縮小演算部14に出力する。   When the value held in the flip-flop circuit 21 becomes 8 or less, the coefficient selection unit 23 selects two coefficients (coefficient a and coefficient b), that is, an interpolation pixel, according to the value held in the flip-flop circuit 21. Interpolation coefficient data for pixels before and after the position is output to the reduction calculation unit 14.

図2には、画素位置検出/係数選択部10の係数選択部23に設けられる係数テーブルの一例を示す図である。係数テーブルには、補間画素の前後に位置する実画素に対する係数データ(係数a、係数b)が、補間画素位置のそれぞれに応じて記憶されている。図2では、フリップフロップ回路21に保持される補間画素位置を示すデータの下位3ビットの値と対応づけて係数データ(係数a、係数b)が記憶されている。   FIG. 2 is a diagram illustrating an example of a coefficient table provided in the coefficient selection unit 23 of the pixel position detection / coefficient selection unit 10. In the coefficient table, coefficient data (coefficient a, coefficient b) for actual pixels located before and after the interpolation pixel is stored in accordance with each interpolation pixel position. In FIG. 2, coefficient data (coefficient a, coefficient b) is stored in association with the value of the lower 3 bits of the data indicating the interpolation pixel position held in the flip-flop circuit 21.

係数aは、補間画素位置の直前の実画素に対する係数データであり、縮小演算部14のセレクタ40に出力され、係数bは、補間画素位置の直後の実画素に対する係数データであり、縮小演算部14のセレクタ41に出力される。   The coefficient a is coefficient data for the actual pixel immediately before the interpolation pixel position, and is output to the selector 40 of the reduction calculation unit 14, and the coefficient b is the coefficient data for the actual pixel immediately after the interpolation pixel position, and the reduction calculation unit 14 selectors 41.

なお、画素位置検出/係数選択部12は、画素位置検出/係数選択部10と同様の動作を実行するものとして説明を省略する。画素位置検出/係数選択部12は、画素位置検出/係数選択部10において対象とする画素色とは異なる2番目の画素色の画素を対象として動作し、補間画素位置に応じて係数選択部33において選択された係数データを縮小演算部14に出力する。   Note that the pixel position detection / coefficient selection unit 12 performs the same operation as that of the pixel position detection / coefficient selection unit 10 and description thereof is omitted. The pixel position detection / coefficient selection unit 12 operates on a pixel having a second pixel color different from the target pixel color in the pixel position detection / coefficient selection unit 10, and the coefficient selection unit 33 according to the interpolation pixel position. The coefficient data selected in is output to the reduction calculation unit 14.

縮小演算部14は、画素位置検出/係数選択部10,12から出力される係数データ(係数a)をセレクタ40に入力して、係数データ(係数b)をセレクタ41に入力する。セレクタ40,41は、CCDデータ(画素データ)の入力に合わせて何れかを選択して出力する。   The reduction calculation unit 14 inputs the coefficient data (coefficient a) output from the pixel position detection / coefficient selection units 10 and 12 to the selector 40 and inputs the coefficient data (coefficient b) to the selector 41. The selectors 40 and 41 select and output either one according to the input of CCD data (pixel data).

フリップフロップ回路42,43,44は、逐次入力されるCCDデータを順次保持する。すなわち、入力された画素データは、まずフリップフロップ回路42に保持し、次に画素データが入力される際には、フリップフロップ回路42に保持されていた画素データがフリップフロップ回路43に記憶され、新たに入力された画素データがフリップフロップ回路42に記憶される。同様にして、次に画素データが入力されることで、フリップフロップ回路43に記憶された画素データがフリップフロップ回路44に記憶される。   The flip-flop circuits 42, 43, and 44 hold the sequentially input CCD data. That is, the input pixel data is first held in the flip-flop circuit 42, and when the pixel data is next input, the pixel data held in the flip-flop circuit 42 is stored in the flip-flop circuit 43, Newly input pixel data is stored in the flip-flop circuit 42. Similarly, when the pixel data is input next, the pixel data stored in the flip-flop circuit 43 is stored in the flip-flop circuit 44.

CCDデータでは2つの異なる画素色が交互に現れることから、3つのフリップフロップ回路42,43,44により順次記憶することで、フリップフロップ回路42,44には同色の画素データが記憶されることになる。また、フリップフロップ回路44には、補間画素位置の直前の画素データが保持され、フリップフロップ回路42には、補間画素位置の直後の画素データが保持されることになる。   Since two different pixel colors appear alternately in the CCD data, the pixel data of the same color is stored in the flip-flop circuits 42, 44 by sequentially storing them by the three flip-flop circuits 42, 43, 44. Become. The flip-flop circuit 44 holds pixel data immediately before the interpolation pixel position, and the flip-flop circuit 42 holds pixel data immediately after the interpolation pixel position.

乗算器45は、フリップフロップ回路44に保持されたデータに対して、セレクタ40により選択された補間画素位置の直前の実画素に対する係数データ(係数a)を乗算して出力する。また、乗算器46は、フリップフロップ回路42に保持されたデータに対して、セレクタ41により選択された補間画素位置の直後の実画素に対する係数データ(係数b)を乗算して出力する。   The multiplier 45 multiplies the data held in the flip-flop circuit 44 by the coefficient data (coefficient a) for the actual pixel immediately before the interpolation pixel position selected by the selector 40 and outputs the result. The multiplier 46 multiplies the data held in the flip-flop circuit 42 by coefficient data (coefficient b) for the actual pixel immediately after the interpolation pixel position selected by the selector 41 and outputs the result.

乗算器45,46による演算結果は、加算器47により加算され、除算器48により除算(ここでは1/8)されてフリップフロップ回路49に保持される。フリップフロップ回路49に保持されたデータは、縮小処理された縮小データとして出力される。   The calculation results by the multipliers 45 and 46 are added by the adder 47, divided by the divider 48 (1/8 in this case), and held in the flip-flop circuit 49. The data held in the flip-flop circuit 49 is output as reduced data that has been reduced.

次に、本実施形態における画像処理装置による縮小データ(補間画素データ)を生成する縮小処理の動作について説明する。   Next, the operation of the reduction process for generating reduced data (interpolated pixel data) by the image processing apparatus according to the present embodiment will be described.

なお、動画撮影モードでは、所定のフレームレートで逐次撮影される各フレームのCCDデータに対して、図1に示す各構成により各フレームについて繰り返しリアルタイムで実行される。以下では1フレーム分の処理について説明する。   In the moving image shooting mode, the CCD data of each frame that is sequentially shot at a predetermined frame rate is repeatedly executed in real time for each frame according to each configuration shown in FIG. Hereinafter, processing for one frame will be described.

本実施形態では、CCDセンサ(撮像素子)から出力されるCCDデータの同色画素間を8分割し、この8分割された何れかの位置に画素を補間することで画像を縮小するものとする。なお、同色画素間の分割数を大きくすることによって、縮小率のレンジを細かくすることができる。   In the present embodiment, the same color pixels of the CCD data output from the CCD sensor (imaging device) are divided into eight, and the image is reduced by interpolating the pixels at any of the eight divided positions. Note that the range of the reduction ratio can be made finer by increasing the number of divisions between pixels of the same color.

図3(a)(b)には、CCDセンサから出力される同色の画素データの配列を示す図である。CCDデータとしては、1ラインについては2つの異なる色の画素データが交互に出力される。例えば図3(a)に示すRの画素データと、図3(b)に示すGの画素データである。   FIGS. 3A and 3B are diagrams showing an array of pixel data of the same color output from the CCD sensor. As CCD data, pixel data of two different colors are alternately output for one line. For example, R pixel data shown in FIG. 3A and G pixel data shown in FIG.

ここで、簡単な具体例として、初期オフセット(1st画素用オフセット、2nd画素用オフセット)が0、移動量データ(縮小率)が12である場合を例にして説明する。また、図3(a)に示す1つの画素色の画素データに対する画素位置検出/係数選択部10における処理について説明する。   Here, as a simple specific example, a case where the initial offset (1st pixel offset, 2nd pixel offset) is 0 and the movement amount data (reduction ratio) is 12 will be described as an example. Also, processing in the pixel position detection / coefficient selection unit 10 for pixel data of one pixel color shown in FIG.

同色画素の最初の画素データが入力されてくると、初期オフセットの値をセレクタ20を介してフリップフロップ回路21(画素位置検出レジスタ)にロードする。ここでは、フリップフロップ回路21に保持される値が8以下であるため、係数選択部23は、フリップフロップ回路21が保持する値の下位3ビットに応じて、係数テーブルから係数データ(係数a,係数b)を選択して出力する。また、画素位置検出レジスタの値に加算器25により移動量データ12を加算し、減算器26により−8減算した値をセレクタ24、セレクタ20を介してフリップフロップ回路21にロードする。   When the first pixel data of the same color pixel is input, the initial offset value is loaded into the flip-flop circuit 21 (pixel position detection register) via the selector 20. Here, since the value held in the flip-flop circuit 21 is 8 or less, the coefficient selection unit 23 reads coefficient data (coefficients a, a, a) from the coefficient table according to the lower 3 bits of the value held in the flip-flop circuit 21. Select coefficient b) and output. Further, the movement amount data 12 is added to the value of the pixel position detection register by the adder 25, and the value obtained by subtracting −8 by the subtractor 26 is loaded into the flip-flop circuit 21 via the selector 24 and the selector 20.

ここでは、フリップフロップ回路21に保持される値が0であり、8以下であるので、図2に示すように係数aとして8、係数bとして0の係数データが縮小演算部14にそれぞれ出力される。   Here, since the value held in the flip-flop circuit 21 is 0 and equal to or less than 8, the coefficient data of 8 as the coefficient a and 0 as the coefficient b is output to the reduction calculation unit 14 as shown in FIG. The

この場合、乗算器45によるセレクタ40により選択された係数aの係数データ8とフリップフロップ回路44に保持された画素データとの乗算結果と、乗算器46によるセレクタ41により選択された係数bの係数データ0とフリップフロップ回路42に保持された画素データとの乗算結果との和を、除算器48により1/8した値、すなわちフリップフロップ回路44に保持された画素データそのままが縮小データとして出力される。   In this case, the multiplication result of the coefficient data 8 of the coefficient a selected by the selector 45 by the multiplier 45 and the pixel data held in the flip-flop circuit 44, and the coefficient of the coefficient b selected by the selector 41 by the multiplier 46 A value obtained by multiplying the sum of the data 0 and the pixel data held in the flip-flop circuit 42 by 1/8 by the divider 48, that is, the pixel data held in the flip-flop circuit 44 is output as reduced data. The

図4には、同色の実画素に対する補間画素(縮小データ)を示している。図4に示すように、初期オフセットが0の場合には、最初の画素データがそのまま縮小データとして出力される。   FIG. 4 shows interpolation pixels (reduced data) for real pixels of the same color. As shown in FIG. 4, when the initial offset is 0, the first pixel data is output as it is as reduced data.

次の同色画素が入力されると、フリップフロップ回路21には、加算器25、減算器26、セレクタ24,20を介して、移動量データから−8した値、すなわち4がロードされている。ここで、フリップフロップ回路21に保持された値が8以下となることで、係数選択部23は、フリップフロップ回路21が保持する値4の下位3ビット100に応じて、係数aとして4、係数bとして4の係数データがそれぞれ縮小演算部14に出力される。また、フリップフロップ回路21に保持された値4に移動量を加算して−8した値、すなわち8をフリップフロップ回路21にロードする。   When the next pixel of the same color is input, the flip-flop circuit 21 is loaded with a value obtained by subtracting -8 from the movement amount data, that is, 4 via the adder 25, subtractor 26, and selectors 24 and 20. Here, when the value held in the flip-flop circuit 21 becomes 8 or less, the coefficient selection unit 23 sets the coefficient a to 4 as the coefficient a according to the lower 3 bits 100 of the value 4 held in the flip-flop circuit 21. The coefficient data of 4 is output to the reduction calculation unit 14 as b. Further, a value obtained by adding the movement amount to the value 4 held in the flip-flop circuit 21 and −8, that is, 8 is loaded into the flip-flop circuit 21.

この場合、縮小演算部14では、フリップフロップ回路42,44に保持された補間画素位置の前後の実画素に対して、乗算器45,46によりそれぞれ係数データ4により乗算され、これを加算器47により加算し、除算器48により1/8にした値が縮小データとして出力される。   In this case, in the reduction operation unit 14, the actual pixels before and after the interpolation pixel position held in the flip-flop circuits 42 and 44 are multiplied by the coefficient data 4 by the multipliers 45 and 46, respectively. Then, a value obtained by adding 1 to 1/8 by the divider 48 is output as reduced data.

すなわち、図4に示すように、移動量12の位置にある補間画素については、前後の実画素に対してそれぞれ4/8倍して加算した値が補間画素の画素データとなる。   That is, as shown in FIG. 4, for the interpolated pixel at the position of the movement amount 12, the pixel data of the interpolated pixel is obtained by adding 4/8 times the previous and subsequent real pixels.

次の同色画素データが入力されると、フリップフロップ回路21に保持された値が8なので8以下とならないために、フリップフロップ回路21に保持された値に減算器22により−8した値(すなわち0)を、セレクタ24,20を介してフリップフロップ回路21にロードする。この場合、図4に示すように、3番目の実画素の入力に対して縮小データが出力されない。   When the next same color pixel data is input, since the value held in the flip-flop circuit 21 is 8, it is not less than 8. Therefore, the value held in the flip-flop circuit 21 is subtracted by -8 by the subtractor 22 (that is, 0) is loaded into the flip-flop circuit 21 via the selectors 24 and 20. In this case, as shown in FIG. 4, the reduced data is not output with respect to the input of the third actual pixel.

次の同色画素データが入力されると、フリップフロップ回路21に保持された値が0なので、フリップフロップ回路21に4をロードし、縮小データとして入力された画素データがそのまま出力される(図4に示す4番目の画素データ)。   When the next same color pixel data is input, since the value held in the flip-flop circuit 21 is 0, 4 is loaded into the flip-flop circuit 21, and the pixel data input as reduced data is output as it is (FIG. 4). 4th pixel data shown in FIG.

以下、同様にして、順次入力されるCCDデータ(画素データ)に対して補間画素位置を検出しながら係数データを縮小演算部14に出力し、縮小演算部14において係数データを用いた演算を実行することで縮小データを出力する。   Thereafter, similarly, coefficient data is output to the reduction calculation unit 14 while detecting the interpolation pixel position with respect to sequentially input CCD data (pixel data), and the reduction calculation unit 14 performs calculation using the coefficient data. To output reduced data.

なお、前述した説明では、画素位置検出/係数選択部10における処理について説明しているが、画素位置検出/係数選択部12においても、画素位置検出/係数選択部10において処理される画素色とは異なる画素について同様の処理が実行される。   In the above description, the processing in the pixel position detection / coefficient selection unit 10 has been described. However, the pixel position detection / coefficient selection unit 12 also includes the pixel color processed in the pixel position detection / coefficient selection unit 10. The same processing is executed for different pixels.

縮小演算部14は、入力されるCCDデータ(画素データ)を、フリップフロップ回路42,43,44により逐次記憶していくので、画素位置検出/係数選択部10により対象としている画素とは異なる色の画像が、フリップフロップ回路42,44に保持されるタイミングで、画素位置検出/係数選択部12の係数選択部33から出力される係数データ(係数a、係数b)をセレクタ40,41においてそれぞれ選択し、前述と同様の演算処理を実行する。   Since the reduction calculation unit 14 sequentially stores the input CCD data (pixel data) by the flip-flop circuits 42, 43, and 44, the pixel position detection / coefficient selection unit 10 has a different color from the target pixel. The coefficient data (coefficient a and coefficient b) output from the coefficient selection unit 33 of the pixel position detection / coefficient selection unit 12 at the timing at which the image is held in the flip-flop circuits 42 and 44 are respectively selected by the selectors 40 and 41. Select and execute the same arithmetic processing as described above.

また、前記オフセット量をユーザーが所望のタイミングで任意に設定するための操作キーを設け、動画撮影における表示画面をユーザーが確認しながら、モアレ等が発生する場合には、モアレが無くなるようにオフセット量を変更するようにしてもよい。   Also, an operation key is provided for the user to arbitrarily set the offset amount at a desired timing, and when moire or the like occurs while the user confirms the display screen for moving image shooting, the offset is set so that moire is eliminated. The amount may be changed.

また、前述した説明では、縮小処理において有効な例を説明したが、同様な処理を拡大処理に適用してもよく、拡大処理の場合にも上記モアレを除去する効果を得ることができる。   In the above description, an example effective in the reduction process has been described. However, a similar process may be applied to the enlargement process, and an effect of removing the moire can be obtained also in the enlargement process.

このようにして、画素位置検出/係数選択部10,12、及び縮小演算部14における処理により、画素の配列に従い異なる2つの色の画素データが出力されるCCDセンサからの画素データに対する縮小処理を、間引き処理と2点間の補間処理により実現することができ、縮小率に合わせた全ての画素の平均値により補間する場合と比較して高画質の縮小画像を生成することができる。   In this manner, the pixel position detection / coefficient selection units 10 and 12 and the reduction calculation unit 14 perform reduction processing on pixel data from the CCD sensor that outputs pixel data of two different colors according to the pixel arrangement. This can be realized by thinning-out processing and interpolation processing between two points, and a high-quality reduced image can be generated as compared with the case where interpolation is performed using the average value of all the pixels according to the reduction rate.

また、前述した実施形態では、デジタルスチルカメラやデジタルビデオカメラなどのカメラ装置を対象としているが、カメラ機能付きの携帯電話機や携帯型の情報処理装置(PDA(personal digital assistant)やPC(Personal Computer)など)に適用することもできる。   In the above-described embodiment, a camera device such as a digital still camera or a digital video camera is targeted, but a mobile phone with a camera function or a portable information processing device (PDA (personal digital assistant) or PC (Personal Computer) is used. ) Etc.).

さらに、上記実施の形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜の組み合わせにより種々の発明が抽出され得る。例えば、実施の形態に示される全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題の少なくとも1つが解決でき、発明の効果の欄で述べられている効果の少なくとも1つが得られる場合には、この構成要件が削除された構成が発明として抽出され得る。   Furthermore, the above embodiments include inventions at various stages, and various inventions can be extracted by appropriately combining a plurality of disclosed constituent elements. For example, even if some constituent elements are deleted from all the constituent elements shown in the embodiment, at least one of the problems described in the column of problems to be solved by the invention can be solved, and described in the column of the effect of the invention. In a case where at least one of the obtained effects can be obtained, a configuration in which this configuration requirement is deleted can be extracted as an invention.

本発明の実施形態におけるカメラ装置に設けられる画像処理装置の構成を示すブロック図。1 is a block diagram illustrating a configuration of an image processing device provided in a camera device according to an embodiment of the present invention. 本実施形態における画素位置検出/係数選択部10の係数選択部23に設けられる係数テーブルの一例を示す図。The figure which shows an example of the coefficient table provided in the coefficient selection part 23 of the pixel position detection / coefficient selection part 10 in this embodiment. CCDセンサから出力される同色の画素データの配列を示す図。The figure which shows the arrangement | sequence of the pixel data of the same color output from a CCD sensor. 本実施形態における同色の実画素に対する補間画素(縮小データ)を示す図。The figure which shows the interpolation pixel (reduction data) with respect to the real pixel of the same color in this embodiment.

符号の説明Explanation of symbols

10,12…画素位置検出/係数選択部、14…縮小演算部、20,24,30,34,40,41…セレクタ、23,33…係数選択部、21,31,42,43,44…フリップフロップ回路、22,26,32,36…減算器、25,35,47…加算器、45,46…乗算器、48…除算器。   DESCRIPTION OF SYMBOLS 10,12 ... Pixel position detection / coefficient selection part, 14 ... Reduction operation part, 20, 24, 30, 34, 40, 41 ... Selector, 23, 33 ... Coefficient selection part, 21, 31, 42, 43, 44 ... Flip-flop circuit, 22, 26, 32, 36 ... subtractor, 25, 35, 47 ... adder, 45, 46 ... multiplier, 48 ... divider.

Claims (8)

画素の画素情報を配列の順番に逐次出力する撮像素子と、
前記撮像素子により出力された各画素の画素情報に対する倍率を設定する倍率設定手段と、
前記倍率設定手段によって設定された倍率に応じて補間画素の位置情報を順番に生成して逐次出力する位置生成手段と、
前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第1画素情報記憶手段と、
前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素に対する補間係数を逐次生成して出力する第1係数生成手段と、
前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第2画素情報記憶手段と、
前記位置生成手段によって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素に対する補間係数を逐次生成して出力する第2係数生成手段と、
前記第1画素情報記憶手段に記憶されている画素情報に前記第1係数生成手段が出力する係数を乗算した値と、前記第2画素情報記憶手段に記憶されている画素情報に前記第2係数生成手段が出力する係数を乗算した値とを加算する演算により前記補間画素の画素情報を逐次生成する演算手段と
を具備したことを特徴とするカメラ装置。
An image sensor that sequentially outputs pixel information of pixels in the order of arrangement;
Magnification setting means for setting a magnification for pixel information of each pixel output by the image sensor;
Position generation means for sequentially generating and sequentially outputting position information of interpolation pixels according to the magnification set by the magnification setting means;
First pixel information storage means for sequentially inputting actual pixel information immediately before the position from the image sensor and storing the information while sequentially updating in accordance with position information of the interpolation pixel sequentially output by the position generation means; ,
First coefficient generation means for sequentially generating and outputting an interpolation coefficient for an actual pixel immediately before the position according to position information of the interpolation pixel sequentially output by the position generation means;
Second pixel information storage means for sequentially inputting actual pixel information immediately after the position from the image sensor and storing it while sequentially updating in accordance with position information of the interpolation pixel sequentially output by the position generation means; ,
Second coefficient generation means for sequentially generating and outputting an interpolation coefficient for an actual pixel immediately after the position in accordance with position information of the interpolation pixel sequentially output by the position generation means;
A value obtained by multiplying the pixel information stored in the first pixel information storage unit by the coefficient output from the first coefficient generation unit, and the pixel information stored in the second pixel information storage unit include the second coefficient. A camera apparatus comprising: a calculation unit that sequentially generates pixel information of the interpolated pixel by a calculation of adding a value multiplied by a coefficient output from the generation unit.
前記撮像手段からは異なる2つの色に対応する画素情報を交互に出力し、前記画素情報の色毎に前記補間画素の画素情報を生成することを特徴とする請求項1記載のカメラ装置。   2. The camera apparatus according to claim 1, wherein pixel information corresponding to two different colors is alternately output from the imaging unit, and pixel information of the interpolation pixel is generated for each color of the pixel information. 前記第1及び第2係数生成手段は、前記撮像素子から出力される異なる2つの色の各々に対応して2つ設けられることを特徴とする請求項1記載のカメラ装置。   2. The camera apparatus according to claim 1, wherein two first and second coefficient generation units are provided corresponding to two different colors output from the image sensor. 前記第1及び第2画素記憶手段は、前記撮像素子から出力される異なる2つの色の各々に対応して2つ設けられることを特徴とする請求項1記載のカメラ装置。   2. The camera apparatus according to claim 1, wherein two first and second pixel storage units are provided corresponding to two different colors output from the image sensor. 前記撮像素子から出力される画素情報をそのまま記録する静止画モードと、前記画素情報に対して縮小処理を施して記録する動画像モードとが選択されるもので、前記動画像モードが選択された場合に前記倍率設定手段により縮小率を設定して、前記補間画素の画素情報を生成することを特徴とする請求項1記載のカメラ装置。   The still image mode in which the pixel information output from the image sensor is recorded as it is and the moving image mode in which the pixel information is reduced and recorded are selected, and the moving image mode is selected. The camera apparatus according to claim 1, wherein pixel information of the interpolated pixel is generated by setting a reduction ratio by the magnification setting means. 動画撮影時において、所定のフレームレートで逐次撮像される各動画フレームの画像データに対して、前記位置生成手段、前記第1画素情報記憶手段、前記第1係数生成手段、前記第2画素情報記憶手段、前記第2係数生成手段、前記演算手段、の処理を繰り返しリアルタイムに実行することを特徴とする請求項1または5記載のカメラ装置。   At the time of moving image shooting, the position generation means, the first pixel information storage means, the first coefficient generation means, and the second pixel information storage are performed on image data of each moving image frame that is sequentially captured at a predetermined frame rate. 6. The camera apparatus according to claim 1, wherein the processing of said means, said second coefficient generating means, and said calculating means is repeatedly executed in real time. 撮像素子から配列の順番で逐次出力される画素の画素情報に対する倍率を設定する倍率設定ステップと、
前記倍率設定ステップによって設定された倍率に応じて補間画素の位置情報を順番に生成して逐次出力する位置生成ステップと、
前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第1画素情報記憶ステップと、
前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直前にある実画素に対する補間係数を逐次生成して出力する第1係数生成ステップと、
前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素情報を前記撮像素子から逐次入力すると共に、逐次更新しながら記憶する第2画素情報記憶ステップと、
前記位置生成ステップによって逐次出力される補間画素の位置情報に応じて、当該位置の直後にある実画素に対する補間係数を逐次生成して出力する第2係数生成ステップと、
前記第1画素情報記憶ステップにより記憶された画素情報に前記第1係数生成ステップで出力された係数を乗算した値と、前記第2画素情報記憶ステップにより記憶された画素情報に前記第2係数生成ステップで出力された係数を乗算した値とを加算する演算により前記補間画素の画素情報を逐次生成する演算ステップと
を具備したことを特徴とするカメラ装置の画像処理方法。
A magnification setting step for setting a magnification for pixel information of pixels sequentially output from the image sensor in the order of arrangement;
A position generation step of sequentially generating and sequentially outputting position information of interpolation pixels according to the magnification set by the magnification setting step;
A first pixel information storing step of sequentially inputting real pixel information immediately before the position from the image sensor and storing it while sequentially updating according to the position information of the interpolation pixel sequentially output by the position generating step; ,
A first coefficient generation step of sequentially generating and outputting an interpolation coefficient for an actual pixel immediately before the position according to position information of the interpolation pixel sequentially output by the position generation step;
A second pixel information storage step of sequentially inputting actual pixel information immediately after the position from the imaging device and storing the information while sequentially updating according to the position information of the interpolation pixel sequentially output by the position generation step; ,
A second coefficient generation step of sequentially generating and outputting an interpolation coefficient for an actual pixel immediately after the position according to position information of the interpolation pixel sequentially output by the position generation step;
A value obtained by multiplying the pixel information stored in the first pixel information storage step by the coefficient output in the first coefficient generation step and the pixel information stored in the second pixel information storage step generate the second coefficient. An image processing method for a camera device, comprising: an operation step of sequentially generating pixel information of the interpolation pixel by an operation of adding a value multiplied by a coefficient output in the step.
撮像素子から交互に出力される異なる2つの色に対応する画素情報をもとに画素を補間するカメラ装置において、
倍率の指定に応じて第1の色の画素に対する補間画素の位置を設定する第1設定手段と、
前記第1設定手段によって設定された補間位置に応じて、前記第1の色の画素に対する補間位置の前後に位置する同色画素に対する2つの補間係数データを出力する第1補間係数出力手段と、
倍率の指定に応じて第2の色の画素に対する補間画素の位置を設定する第2設定手段と、
前記第2設定手段によって設定された補間位置に応じて、前記第2の色の画素に対する補間位置の前後に位置する同色画素に対する2つの補間係数データを出力する第2補間係数出力手段と、
前記撮像素子から交互に出力される第1及び第2の色の画素情報を逐次記憶する画素情報記憶手段と、
前記画素情報記憶手段に記憶された前記第1の色の前記補間画素の前後に位置する2つの画素情報に対して、前記第1補間係数出力手段によって出力された2つの補間係数データをそれぞれ乗算し、その乗算結果を加算することで前記第1の色の前記補間画素の画素情報を生成する第1演算手段と、
前記画素情報記憶手段に記憶された前記第2の色の前記補間画素の前後に位置する2つの画素情報に対して、前記第2補間係数出力手段によって出力された2つの補間係数データをそれぞれ乗算し、その乗算結果を加算することで前記第2の色の前記補間画素の画素情報を生成する第2演算手段と
を具備したことを特徴とするカメラ装置。
In a camera device that interpolates pixels based on pixel information corresponding to two different colors that are alternately output from an image sensor,
First setting means for setting the position of the interpolation pixel with respect to the pixel of the first color according to the designation of the magnification;
First interpolation coefficient output means for outputting two interpolation coefficient data for the same color pixel located before and after the interpolation position for the first color pixel according to the interpolation position set by the first setting means;
Second setting means for setting the position of the interpolated pixel with respect to the second color pixel in accordance with the designation of the magnification;
Second interpolation coefficient output means for outputting two interpolation coefficient data for the same color pixel located before and after the interpolation position for the second color pixel according to the interpolation position set by the second setting means;
Pixel information storage means for sequentially storing pixel information of first and second colors alternately output from the image sensor;
The two pieces of pixel information located before and after the interpolation pixel of the first color stored in the pixel information storage unit are respectively multiplied by the two interpolation coefficient data output by the first interpolation coefficient output unit. First calculating means for generating pixel information of the interpolated pixels of the first color by adding the multiplication results;
The two pieces of pixel information located before and after the interpolation pixel of the second color stored in the pixel information storage unit are respectively multiplied by the two interpolation coefficient data output by the second interpolation coefficient output unit. And a second arithmetic unit that generates pixel information of the interpolation pixel of the second color by adding the multiplication results.
JP2005011618A 2005-01-19 2005-01-19 Camera device Active JP4715210B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005011618A JP4715210B2 (en) 2005-01-19 2005-01-19 Camera device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005011618A JP4715210B2 (en) 2005-01-19 2005-01-19 Camera device

Publications (2)

Publication Number Publication Date
JP2006203438A true JP2006203438A (en) 2006-08-03
JP4715210B2 JP4715210B2 (en) 2011-07-06

Family

ID=36961056

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005011618A Active JP4715210B2 (en) 2005-01-19 2005-01-19 Camera device

Country Status (1)

Country Link
JP (1) JP4715210B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7782370B2 (en) 2006-11-02 2010-08-24 Hoya Corporation Imaging unit

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10208030A (en) * 1997-01-21 1998-08-07 Sony Corp Image processor and processing method
JPH11289494A (en) * 1998-04-05 1999-10-19 Sony Corp Shading correction circuit
JP2000078450A (en) * 1998-09-02 2000-03-14 Canon Inc Image pickup device, reproducing device and image pickup recording and reproducing device
JP2001061058A (en) * 1999-08-20 2001-03-06 Canon Inc Image processor
JP2001136540A (en) * 1999-11-05 2001-05-18 Olympus Optical Co Ltd Image processor
JP2003319407A (en) * 2002-04-24 2003-11-07 Minolta Co Ltd Imaging apparatus
JP2004129242A (en) * 2002-09-11 2004-04-22 Olympus Corp Electronic camera apparatus and image processing method thereof
JP2004260813A (en) * 2003-02-04 2004-09-16 Canon Inc Imaging apparatus, imaging method, and digital camera

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10208030A (en) * 1997-01-21 1998-08-07 Sony Corp Image processor and processing method
JPH11289494A (en) * 1998-04-05 1999-10-19 Sony Corp Shading correction circuit
JP2000078450A (en) * 1998-09-02 2000-03-14 Canon Inc Image pickup device, reproducing device and image pickup recording and reproducing device
JP2001061058A (en) * 1999-08-20 2001-03-06 Canon Inc Image processor
JP2001136540A (en) * 1999-11-05 2001-05-18 Olympus Optical Co Ltd Image processor
JP2003319407A (en) * 2002-04-24 2003-11-07 Minolta Co Ltd Imaging apparatus
JP2004129242A (en) * 2002-09-11 2004-04-22 Olympus Corp Electronic camera apparatus and image processing method thereof
JP2004260813A (en) * 2003-02-04 2004-09-16 Canon Inc Imaging apparatus, imaging method, and digital camera

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7782370B2 (en) 2006-11-02 2010-08-24 Hoya Corporation Imaging unit

Also Published As

Publication number Publication date
JP4715210B2 (en) 2011-07-06

Similar Documents

Publication Publication Date Title
JP4941285B2 (en) Imaging apparatus, imaging system, imaging method, and image processing apparatus
JP3890177B2 (en) Resolution conversion apparatus and apparatus using the same
JP4720859B2 (en) Image processing apparatus, image processing method, and program
US8861846B2 (en) Image processing apparatus, image processing method, and program for performing superimposition on raw image or full color image
JP2008153836A (en) Imaging device, image processor, image processing method, program for image processing method, and recording medium with program for image processing method recorded thereon
JP2007293431A (en) Image processor
JP5212046B2 (en) Digital camera, image processing apparatus, and image processing program
JP2001086522A (en) Image processor
JP2006211610A (en) Imaging system
EP1592235B1 (en) Image processing device, image processing program and recording medium for said program
JP5291788B2 (en) Imaging device
JP4715210B2 (en) Camera device
KR100719988B1 (en) Image signal processing device
JP2009033385A (en) Image processor, image processing method, image processing program and imaging device
JP2007306083A (en) Imaging apparatus and signal processing apparatus
JP4244218B2 (en) Imaging signal processing circuit and camera system
US7551204B2 (en) Imaging apparatus having a color image data measuring function
JP2013207427A (en) Image pickup device and image pickup method
JP2006303693A (en) Electronic camera provided with function of generating reduced picture
JP3748446B2 (en) Image processing circuit of image input device
JP2004153848A (en) Image processing circuit for image input apparatus
JP2008066942A (en) Image processor and processing method
JPH08279949A (en) Electronic zooming processing unit and its method
JP2006134030A (en) Image processor
JP2004356681A (en) White balance adjusting circuit, its application device, white balance adjusting method, and white balance adjusting program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110301

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110314

R150 Certificate of patent or registration of utility model

Ref document number: 4715210

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140408

Year of fee payment: 3