JP2005244760A - Imaging apparatus and image forming method thereof - Google Patents

Imaging apparatus and image forming method thereof Download PDF

Info

Publication number
JP2005244760A
JP2005244760A JP2004053831A JP2004053831A JP2005244760A JP 2005244760 A JP2005244760 A JP 2005244760A JP 2004053831 A JP2004053831 A JP 2004053831A JP 2004053831 A JP2004053831 A JP 2004053831A JP 2005244760 A JP2005244760 A JP 2005244760A
Authority
JP
Japan
Prior art keywords
image
compressed
compressed image
level
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004053831A
Other languages
Japanese (ja)
Other versions
JP4268891B2 (en
Inventor
Seiji Yoshikawa
誠司 芳川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2004053831A priority Critical patent/JP4268891B2/en
Priority to KR1020050016015A priority patent/KR101110009B1/en
Priority to CNB200510052453XA priority patent/CN100542214C/en
Priority to US11/069,896 priority patent/US20050190274A1/en
Publication of JP2005244760A publication Critical patent/JP2005244760A/en
Application granted granted Critical
Publication of JP4268891B2 publication Critical patent/JP4268891B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an imaging apparatus having a completely new imaging system which is not employed in a conventional technique, and an image forming method thereof. <P>SOLUTION: If one screen of a second compression image is designated, the imaging apparatus 1 generates a high resolution static image data for performing expansion decoding to display a designated screen by the second compression image and another compression image including a first compression image before or after the second compression image. The device 1 has a control unit 16 for using both a rolling shutter function and a global shutter function during taking one moving image data; and an image processing unit 14 for applying intraframe compression to the data of pixels taken by the global shutter to generate the first compression image, and applying interframe compression to the data of pixels taken by the rolling shutter in a period before or after the period for generating the first compression image to generate the second compression image. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、ディジタルカメラ等の撮像装置および撮像方法に係り、より詳しくは、動画主体として取り出す画像(比較的低画素数)と静止側として取り扱える画像(比較的高画素数)を同一ストリーム上で取り扱う撮像装置およびその画像生成方法に関するものである。   The present invention relates to an image pickup apparatus such as a digital camera and an image pickup method, and more specifically, an image taken out as a moving image main body (a relatively low number of pixels) and an image that can be handled as a still side (a relatively high number of pixels) on the same stream. The present invention relates to an imaging apparatus to be handled and an image generation method thereof.

従来より、動画撮影中に、高解像の静止画を撮影可能な撮像装置が、以下に第1〜第8の撮像装置として示すように、種々提案されている。   2. Description of the Related Art Conventionally, various imaging devices that can capture a high-resolution still image during moving image shooting have been proposed as shown as first to eighth imaging devices below.

第1の撮像装置は、動画撮影中に所定周期で静止画を撮影するものである(特許文献1参照)。   The first imaging device captures a still image at a predetermined cycle during moving image capturing (see Patent Document 1).

第2の撮像装置は、通常解像度の動画撮影中に操作者の操作により、または、自動的に一定間隔で高解像度の静止画を撮影するものであって、静止画は静止画デ一タとして記録し、動画は動画デ一タとして記録するものであり、動画再生中に静止画データありを表示し、操作者の操作でその静止画表示に切り替わる(特許文献2参照)。   The second imaging device captures a high-resolution still image at a fixed interval by an operator's operation or automatically during normal-resolution video recording, and the still image is used as still image data. The recorded moving image is recorded as moving image data, and the presence of still image data is displayed during moving image reproduction, and the still image display is switched by the operation of the operator (see Patent Document 2).

第3の撮像装置は、所定期間の動画を撮影しつつ操作者のシャツタボタン操作により静止画を撮影する画像記録装置であって、撮影した静止画をその前後の動画を用いて修正するものである。   The third imaging device is an image recording device that captures a still image by shooting a moving image of a predetermined period by an operator's shot button operation, and corrects the captured still image using the preceding and following moving images. It is.

第4の撮像装置は、動画撮影時にシャツタボタン操作すると高精細の静止画を撮影するカムコーダなどの動画記録装置であって、シャッタボタン操作時の高精細の静止画を強制的にイントラ符号化画像(Iピクチャ)として符号化するものである(特許文献3参照)。   The fourth imaging device is a moving image recording device such as a camcorder that captures a high-definition still image when a shot button is operated during moving image shooting, and forcibly encodes a high-definition still image during shutter button operation. It is encoded as an image (I picture) (see Patent Document 3).

第5の撮像装置は、動画撮影中に静止画撮影が可能なものであって、希望する静止画がない場合には、所望する動画像に対応する高解像度画像を、所望する動画像とそれと関連する静止画像とで合成するものである(特許文献4参照)。   The fifth imaging device is capable of still image shooting during moving image shooting, and when there is no desired still image, a high-resolution image corresponding to the desired moving image is obtained as a desired moving image and It is synthesized with related still images (see Patent Document 4).

第6の撮像装置は、シャッタボタンの半押で動画記録開始し、シャッタボタンの押込みで動作記録中に静止画の撮影を行うデジタルカメラであって、動画撮影中に撮影した静止画デ一夕を動画デ一夕と関連付けて記憶するものである(特許文献5参照)。   The sixth imaging device is a digital camera that starts recording a moving image by half-pressing the shutter button and captures a still image while recording an operation by pressing the shutter button. Is stored in association with the moving image data (see Patent Document 5).

第7の撮像装置は、動画撮影中に操作者のシャッタボタン操作により静止画を撮影する画像記録装置であって、撮影した静止画をその前後の動画を用いて修正するものである(特許文献6参照)。   A seventh imaging device is an image recording device that captures a still image by operating an operator's shutter button during moving image shooting, and corrects the captured still image using moving images before and after (Patent Document). 6).

第8の撮像装置は、動画と静止画のデータを一連のファイルとして記録するもの、動画は、MP@ML(Main Profile at Main Level)で記録し、静止画はMP@HL(Main Profile at High Level)で記録するものである(特許文献7参照)。   The eighth imaging device records moving image and still image data as a series of files, the moving image is recorded in MP @ ML (Main Profile at Main Level), and the still image is recorded in MP @ HL (Main Profile at High). Level) (see Patent Document 7).

特開平7−245722号公報JP-A-7-245722 特開平9−51498号公報Japanese Patent Laid-Open No. 9-51498 特開平7−284058号公報JP-A-7-284058 特開2002−51252号公報JP 2002-51252 A 特開2002−84442号公報JP 2002-84442 A 特開平7−143439号公報JP-A-7-143439 特開平11−234623号公報JP-A-11-234623

ところで、上述した各撮像装置においては、通常、動画程度の画像を取り込む場合は、ローリングシャッタを繰り返し露光−データ転送を順次行う。また、静止画の連続撮影を行う場合は、同様にローリングシャッタを連続させるか、メカニカルシャッタを用いる。
ここで、ローリングシャッタのみの画像取り込みでは、画像の上下で画像の歪みが発生することとなる。但し、あくまで動画像なので許容できる。
しかしながら、そのが静止画像の取り込みとなると、この画像歪みを許容できなくなる。そのために、メカニカルシャッタが必要となるが、限りなく、高速で連続画像取り込みを行うには、メカニカルシャッタ駆動にも限界がある。
By the way, in each of the above-described imaging apparatuses, in general, when an image of a moving image level is captured, exposure and data transfer are sequentially performed by repeating a rolling shutter. In addition, when continuous shooting of still images is performed, a rolling shutter is similarly continued or a mechanical shutter is used.
Here, in the image capture using only the rolling shutter, image distortion occurs at the top and bottom of the image. However, since it is a moving image to the last, it is permissible.
However, if that becomes the capture of a still image, this image distortion becomes unacceptable. Therefore, a mechanical shutter is necessary, but there is a limit to mechanical shutter driving in order to capture continuous images at high speed.

また、ディジタルカメラ等においては、高解像度で所望する画像を得るために、操作者が撮影対象を観察し、ここと思うタイミングでレリーズボタンを操作する必要がある。
しかしながら、ここと思うタイミングで操作したとしても、必ずしも所望する画像は得られないことが多く、これを解消する連写機能が実用化されている。
しかし、高解像度で、たとえば10秒間も秒数コマで撮影したとすると、その記録した画像データは膨大となり、現在のメモリカード等の容量を考えると実用性に乏しい。
また、このような連写機能を有するものは、数百万画素の高解像度の静止画連写の場合、連写速度の上限がCCD等の読み出し処理能力に大きく依存するため、秒数コマ程度が上限とななり、所望する画像が動きの早い被写体であると、たとえば連写を用いたとしても所望する画像を得ることはむずかしいものとなる。
Further, in a digital camera or the like, in order to obtain a desired image with high resolution, it is necessary for an operator to observe a subject to be photographed and to operate a release button at a timing considered here.
However, even if it is operated at the timing considered here, a desired image is not always obtained, and a continuous shooting function for solving this problem has been put into practical use.
However, if the image is taken at a high resolution, for example, several frames per second for 10 seconds, the recorded image data is enormous, and considering the capacity of the current memory card or the like, the practicality is poor.
Also, those with such a continuous shooting function, in the case of high resolution still image continuous shooting with millions of pixels, the upper limit of the continuous shooting speed greatly depends on the readout processing capacity of the CCD, etc., so about several frames per second If the desired image is a fast moving subject, for example, it is difficult to obtain the desired image even if continuous shooting is used.

そこで、連写等の速度を気にせずに、かつ記録容量も実用的に抑えた上で、操作者がシャッタタイミングを気にせずに所望の高解像度静止画を得ることが可能な撮像装置を新規に開発した。   Therefore, an imaging apparatus that allows an operator to obtain a desired high-resolution still image without worrying about shutter timing without worrying about the speed of continuous shooting or the like and with a practically reduced recording capacity. Newly developed.

本発明はかかる開発にて生じた全く新規なものであり、特に、上記した高解像度生成画を得る等の課題を背景とするものではなく、従来にない全く新規な撮像方式を有する撮像装置を提供することを目的とする。   The present invention is completely new that has occurred in such development, and is not particularly based on the above-described problem of obtaining a high-resolution generated image. The purpose is to provide.

本発明の第1の観点は、被写体の光学像を撮像素子に結像させシャッタ機能により取り込んだ当該撮像素子による画像データに対して所定の画像処理を行う撮像装置であって、上記シャッタ機能は、グローバルシャッタ機能とローリングシャッタ機能とを含み、一動画像データ取り込み中に上記ローリングシャッタと上記グローバルシャッタとを併用する制御部と、上記グローバルシャッタで取り込んだ画素のデータをイントラフレーム圧縮して第1の圧縮画像を生成し、上記第1の圧縮画像を生成する期間の前後の期間で、上記ローリングシャッタで取り込んだ画素のデータをインターフレーム圧縮して第2の圧縮画像を生成する画像処理部とを有する。   According to a first aspect of the present invention, there is provided an imaging apparatus that performs predetermined image processing on image data obtained by an imaging device that forms an optical image of a subject on an imaging device and captures the image with the shutter function. A control unit that includes a global shutter function and a rolling shutter function, and uses both the rolling shutter and the global shutter during capture of moving image data, and intra-frame compression of the pixel data captured by the global shutter. An image processing unit that generates one compressed image and generates a second compressed image by inter-frame compression of pixel data captured by the rolling shutter in a period before and after the period for generating the first compressed image And have.

好適には、上記画像処理部は、第1の圧縮画像を上記撮像素子から画像データを間引かずに読み出して生成し、上記第2の圧縮画像を上記撮像素子から画像データを間引いて読み出して生成する。   Preferably, the image processing unit reads and generates the first compressed image from the image sensor without thinning out the image data, and reads the second compressed image from the image sensor by thinning out the image data. Generate.

好適には、上記画像処理部は、上記第1の圧縮画像の生成時は高画素の画像データをイントラフレーム圧縮し、上記第2の圧縮画像の生成時は、低画素の画像データをインターフレーム圧縮する。   Preferably, the image processing unit performs intra-frame compression on high-pixel image data when generating the first compressed image, and inter-frame compresses low-pixel image data when generating the second compressed image. Compress.

好適には、上記第2の圧縮画像を上記撮像素子からのデータを間引いて読み出して生成する場合、同色の近傍の画素の積分処理を行って間引き読み出しを行う。   Preferably, when the second compressed image is generated by thinning out data from the image sensor, thinning readout is performed by integrating pixels in the vicinity of the same color.

好適には、上記画像処理部は、上記第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する。   Preferably, the image processing unit corrects the image level of the first compressed image and the image level of the second compressed image to substantially the same level.

好適には、上記画像処理部は、上記第2の圧縮画像の積分処理読み出しを行ったRレベルに基づき上記第1の圧縮画像の画像レベルを補正することにより、上記第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する。   Preferably, the image processing unit corrects the image level of the first compressed image on the basis of the R level obtained by performing the integration process reading of the second compressed image, thereby obtaining an image of the first compressed image. The level and the image level of the second compressed image are corrected to substantially the same level.

好適には、上記画像処理部は、上記第1の圧縮画像の画像レベルを維持し、上記第2の圧縮画像の画像レベルは、積分処理の積分量で除して補正することにより、上記第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する。   Preferably, the image processing unit maintains the image level of the first compressed image, and corrects the image level of the second compressed image by dividing by an integration amount of integration processing. The image level of one compressed image and the image level of the second compressed image are corrected to substantially the same level.

好適には、上記画像処理部は、上記第2の圧縮画像の一画面を指定すると、当該第2の圧縮画像とその前後の上記第1の圧縮画像を含めた他の圧縮画像により伸長復号して当該指定した一画面を示す高解像度の静止画像データを生成する。   Preferably, when the image processing unit designates one screen of the second compressed image, the image processing unit performs decompression decoding using the second compressed image and another compressed image including the first compressed image before and after the second compressed image. Thus, high-resolution still image data representing the designated one screen is generated.

本発明の第2の観点は、被写体の光学像を撮像素子に結像させグローバルシャッタ機能とローリングシャッタ機能とを含むシャッタ機能により取り込んだ撮像素子による画像データに対して所定の画像処理を行って画像データを生成する撮像装置の画像生成方法であって、一動画像データ取り込み中に、上記グローバルシャッタで取り込んだ画素のデータをイントラフレーム圧縮して1画面内での第1の圧縮画像を生成し、上記第1の圧縮画像を生成する期間の前後の期間で、上記ローリングシャッタで取り込んだ画素のデータをインターフレーム圧縮して第2の圧縮画像を生成する。   According to a second aspect of the present invention, a predetermined image processing is performed on image data obtained by an image pickup device that is formed by forming an optical image of a subject on the image pickup device and captured by a shutter function including a global shutter function and a rolling shutter function. An image generation method of an imaging apparatus for generating image data, wherein during the acquisition of moving image data, the pixel data acquired by the global shutter is intra-frame compressed to generate a first compressed image within one screen. Then, in a period before and after the period for generating the first compressed image, the pixel data captured by the rolling shutter is inter-frame compressed to generate a second compressed image.

本発明によれば、従来にない新規な撮像装置が提供できる。   According to the present invention, an unprecedented new imaging apparatus can be provided.

以下、本発明に係る撮像装置の実施形態について、添付図面に関連付けて説明する。   Embodiments of an imaging apparatus according to the present invention will be described below with reference to the accompanying drawings.

図1は、本実施形態における撮像装置1の全体構成を例示する図である。本撮像装置1は、大別して光学系、信号処理系、記録系、表示系、および制御系から構成される。   FIG. 1 is a diagram illustrating an overall configuration of an imaging apparatus 1 in the present embodiment. The imaging apparatus 1 is roughly composed of an optical system, a signal processing system, a recording system, a display system, and a control system.

本実施形態に係る撮像装置1は、動画撮影中、信号処理系において高画素の画像データをイントラフレーム圧縮して第1の圧縮画像を生成し、第1の圧縮画像を生成する期間の前後の期間で、低画素の画像データをインターフレーム圧縮して第2の圧縮画像を生成し、第2の圧縮画像の一画面を指定すると、第2の圧縮画像とその前後の第1の圧縮画像を含めた他の圧縮画像により伸長復号して指定した一画面を示す高解像度の静止画像データを生成する。
そして、本実施形態に係る撮像装置1は、一動画像データ取り込み中に、ローリングシャッタ機能ちグローバルシャッタ機能とを併用する。
また、本実施形態に係る撮像装置1は、第1の圧縮画像の画像レベルと第2の圧縮画像の画像レベルとを略等しいレベルの補正する。
以下、各部の構成および機能について説明する。
The imaging apparatus 1 according to the present embodiment generates a first compressed image by intra-frame compression of high pixel image data in a signal processing system during moving image shooting, and before and after a period for generating the first compressed image. When the second compressed image is generated by inter-frame compression of the low-pixel image data during a period and one screen of the second compressed image is designated, the second compressed image and the first compressed image before and after the second compressed image are High-definition still image data representing one designated screen is generated by decompression decoding using the other compressed images included.
The image pickup apparatus 1 according to the present embodiment uses both the rolling shutter function and the global shutter function while capturing one moving image data.
In addition, the imaging apparatus 1 according to the present embodiment corrects the image level of the first compressed image and the image level of the second compressed image at substantially the same level.
Hereinafter, the configuration and function of each unit will be described.

光学系は、レンズ光学系10およびCMOSセンサ等のイメージセンサ11から構成される。
レンズ光学系10は、被写体に対向する光学レンズ101、および図示しない光学ローパスフィルタ等を備えている。レンズ光学系10においては、光学レンズ101により被写体の光学像を集光して、イメージセンサ11上に被写体の像を結像する。
The optical system includes a lens optical system 10 and an image sensor 11 such as a CMOS sensor.
The lens optical system 10 includes an optical lens 101 that faces a subject, an optical low-pass filter (not shown), and the like. In the lens optical system 10, an optical image of the subject is collected by the optical lens 101 and an image of the subject is formed on the image sensor 11.

撮像素子としてのイメージセンサ11は、たとえば、カラーフィルタが設けられたCMOSイメージセンサから構成され、レンズ光学系10により結像された被写体の像を光電変換する。
また、グローバルシャッタ機能とローリングシャッタ機能とを含むシャッタ機能を有する。
シャッタ機能は、制御系の制御に従ってグローバルシャッタ機能またはローリングシャッタ機能を選択的に用いられ、ローリングシャッタで画素を取り込ませている間に、グローバルシャッタで画像を取り込ませることが可能なように制御される。すなわち、一動画像データ取り込み中に、ローリングシャッタ機能とグローバルシャッタ機能とが併用される。
The image sensor 11 as an image sensor is composed of, for example, a CMOS image sensor provided with a color filter, and photoelectrically converts an object image formed by the lens optical system 10.
Further, it has a shutter function including a global shutter function and a rolling shutter function.
The shutter function is controlled so that the global shutter function or the rolling shutter function is selectively used according to the control of the control system, and the image can be captured by the global shutter while the pixels are captured by the rolling shutter. The In other words, the rolling shutter function and the global shutter function are used in combination during capture of the single moving image data.

信号処理系は、イメージセンサ11から出力される電気信号をサンプリングすることによってノイズを低減させるための相関2重サンプリング回路(CDS:Correlated Double Sampling)であるCDS12と、CDS12が出力するアナログ信号をディジタル信号に変換するA/D変換器13と、A/D変換器13が出力するディジタル信号に対して、後述する所定の画像処理を行う画像処理部14とから構成される。   The signal processing system digitally outputs a CDS 12 that is a correlated double sampling circuit (CDS: Correlated Double Sampling) for reducing noise by sampling an electrical signal output from the image sensor 11 and an analog signal output from the CDS 12. An A / D converter 13 that converts the signal into a signal and an image processing unit 14 that performs predetermined image processing to be described later on the digital signal output from the A / D converter 13 are configured.

本実施形態に係る画像処理部14は、基本的には、グローバルシャッタで取り込んだ画素のデータをイントラフレーム圧縮して第1の圧縮画像を生成し、第1の圧縮画像を生成する期間の前後の期間で、ローリングシャッタで取り込んだ画素のデータをインターフレーム圧縮して第2の圧縮画像を生成する。
後で詳述するように、画像処理部14は、第1の圧縮画像をイメージセンサから画像データを間引かずに読み出して生成し、第2の圧縮画像をイメージセンサから画像データを間引いて読み出して生成する。
画像処理部14は、第1の圧縮画像の生成時は高画素の画像データをイントラフレーム圧縮し、第2の圧縮画像の生成時は、低画素の画像データをインターフレーム圧縮する。
また、画像処理部14は、第2の圧縮画像をイメージセンサからのデータを間引いて読み出して生成する場合、同色の近傍の画素の積分処理を行って間引き読み出しを行う。
画像処理部14は、第1の圧縮画像の画像レベルと第2の圧縮画像の画像レベルとを略等しいレベルに補正する機能を有している。
The image processing unit 14 according to the present embodiment basically generates the first compressed image by intra-frame compressing the pixel data captured by the global shutter, and before and after the period for generating the first compressed image. During this period, the pixel data captured by the rolling shutter is inter-frame compressed to generate a second compressed image.
As will be described in detail later, the image processing unit 14 reads and generates the first compressed image from the image sensor without thinning out the image data, and reads the second compressed image by thinning out the image data from the image sensor. To generate.
The image processing unit 14 performs intra-frame compression on high-pixel image data when generating the first compressed image, and inter-frame compresses on low-pixel image data when generating the second compressed image.
In addition, when the image processing unit 14 generates the second compressed image by thinning out data from the image sensor, the image processing unit 14 performs thinning out reading by performing integration processing of pixels in the vicinity of the same color.
The image processing unit 14 has a function of correcting the image level of the first compressed image and the image level of the second compressed image to substantially the same level.

画像処理部14は、後で詳述するように、第2の圧縮画像の積分処理読み出しを行ったRレベルに基づき第1の圧縮画像の画像レベルを補正することにより、第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する機能を有している。
また、画像処理部14は、第1の圧縮画像の画像レベルを維持し、第2の圧縮画像の画像レベルは、積分処理の積分量で除して補正することにより、第1の圧縮画像の画像レベルと第2の圧縮画像の画像レベルとを略等しいレベルに補正する機能を有している。
そして、画像処理部14は、第2の圧縮画像の一画面を指定すると、第2の圧縮画像とその前後の第1の圧縮画像を含めた他の圧縮画像により伸長復号して当該指定した一画面を示す高解像度の静止画像データを生成する機能を有する。
As will be described in detail later, the image processing unit 14 corrects the image level of the first compressed image based on the R level obtained by performing the integration process readout of the second compressed image, thereby correcting the first compressed image. It has a function of correcting the image level and the image level of the second compressed image to substantially the same level.
Further, the image processing unit 14 maintains the image level of the first compressed image, and corrects the image level of the second compressed image by dividing by the integration amount of the integration process, thereby correcting the first compressed image. It has a function of correcting the image level and the image level of the second compressed image to substantially the same level.
When the image processing unit 14 designates one screen of the second compressed image, the image processing unit 14 decompresses and decodes the second compressed image and the other compressed images including the first compressed image before and after the second compressed image. A function of generating high-resolution still image data representing a screen;

記録系は、制御部16により実行される制御用プログラムと、画像処理部14により生成された画像データの圧縮データと、を格納するメモリ15を含んで構成される。   The recording system includes a memory 15 that stores a control program executed by the control unit 16 and compressed data of the image data generated by the image processing unit 14.

表示系は、画像処理部14が処理し、内蔵する画像メモリに格納する画像データをアナログ化するD/A変換器18と、入力される画像を表示することによりファインダとして機能するLCD(Liquid Crystal Display)等よりなる表示部19を含んで構成される。   The display system includes a D / A converter 18 that converts image data processed by the image processing unit 14 and stored in a built-in image memory, and an LCD (Liquid Crystal) that functions as a finder by displaying an input image. The display unit 19 including a display) is included.

制御系は、イメージセンサ11乃至A/D変換器13の動作タイミングを制御するタイミングジェネレータ17と、ユーザによるシャッタ操作やその他のコマンドを入力するための操作入力部20と、画像処理部14と、メモリ15に記憶されている制御用プログラムを読み出し、読み出した制御用プログラムと、操作入力部20から入力されるユーザからのコマンド等に基づいて、撮像装置1の全体を制御するCPU(Central Processing Unit) などよりなる制御部16とを含んで構成される。   The control system includes a timing generator 17 that controls the operation timing of the image sensor 11 to the A / D converter 13, an operation input unit 20 for inputting a shutter operation and other commands by the user, an image processing unit 14, A control program stored in the memory 15 is read out, and a CPU (Central Processing Unit) that controls the entire imaging apparatus 1 based on the read control program and a command from the user input from the operation input unit 20. ) And the like.

制御部16は、一つのストリーム上で異なった画素数の画像データを取り込む際、動画の場合にはローリングシャッタ機能を用い、静止画の際にはグローバルシャッタを用いるように制御する。   The control unit 16 controls to use a rolling shutter function in the case of a moving image and to use a global shutter in the case of a still image when capturing image data having a different number of pixels on one stream.

ここでは、一つのストリーム上で異なった画素数の画像データを取り込む際、動画はローリングシャッタ、静止画はローリングシャッタ若しくはグローバルシャッタを用いる、用いないときのカメラ状態において判断する。   Here, when capturing image data with a different number of pixels on one stream, a moving shutter is used for a moving image, and a rolling shutter or a global shutter is used for a still image.

すなわち、本実施形態に係る撮像装置1は、制御部16が一連の動作の中で、違う画素数を撮像素子から取り出すシステムにおいて、動画主体として取り出す画像(比較的低画素数)と静止画として取り扱える画像(比較的高画素数)をで同一ストリーム上で取り扱う場合、低画素取り込みの場合、グローバルシャッタは用いず、高画素取り込みの場合のみグローバルシャッタ(若しくはメカニカルシャッタ)を用いる若しくは用いない判断を行う。   That is, in the imaging apparatus 1 according to the present embodiment, in a system in which the control unit 16 extracts a different number of pixels from the imaging element in a series of operations, an image (relatively low number of pixels) to be extracted as a moving image main body and a still image are extracted. When handling images (relatively high number of pixels) that can be handled on the same stream, the global shutter is not used when capturing low pixels, and the global shutter (or mechanical shutter) is used only when capturing high pixels. Do.

通常、動画程度の画像を取り込む場合は、ローリングシャッタを繰り返し露光−データ転送を順次行う。また、静止画の連続撮影を行う場合は、同様にローリングシャッタを連続させるか、メカニカルシャッタを用いるか、グローバルシャッタを用いて制御する。
ここで、ローリングシャッタのみの画像取り込みでは、画像の上下で画像の歪みが発生することとなる。但し、あくまで動画像なので許容できる。
しかしながら、それが静止画像の取り込みとなると、この画像歪みを許容できなくなる。そのために、メカニカルシャッタおよびグローバルシャッタが必要となる。限りなく、高速で連続画像取り込みを行うには、メカニカルシャッタ駆動にも限界があり、グローバルシャッタが不可欠となってくる。
ここでは、一つのストリーム上で異なった画素数の画像データを取り込む際、動画はローリングシャッタ機能を用い、静止画はローリングシャッタ若しくはグローバルシャッタを用いる、用いないときのカメラ状態において判断する。
Normally, when capturing an image of a moving image level, exposure and data transfer are sequentially performed by repeating a rolling shutter. In addition, when performing continuous shooting of still images, control is similarly performed using a rolling shutter, a mechanical shutter, or a global shutter.
Here, in the image capture using only the rolling shutter, image distortion occurs at the top and bottom of the image. However, since it is a moving image to the last, it is permissible.
However, this image distortion becomes unacceptable when it becomes the capture of a still image. Therefore, a mechanical shutter and a global shutter are required. Infinitely, in order to capture continuous images at high speed, there is a limit to mechanical shutter drive, and a global shutter becomes indispensable.
Here, when capturing image data with a different number of pixels on one stream, the moving image uses the rolling shutter function, and the still image uses the rolling shutter or the global shutter.

図2は、ローリングシャッタ使用時の撮像素子(イメージセンサ)の一例を示す図である。
図2のように、A〜Fまでのラインが素子に存在すると仮定すると、その画像の制御は図3に示すようになる。
通常、このローリングシャッタを使用する場合はA〜Fライン間で露光時間のズレを生じるために画像歪みを生じさせる
FIG. 2 is a diagram illustrating an example of an image sensor (image sensor) when the rolling shutter is used.
Assuming that lines A to F exist in the element as shown in FIG. 2, the control of the image is as shown in FIG.
Usually, when this rolling shutter is used, an exposure time shift occurs between the A to F lines, causing image distortion.

図4は、グローバルシャッタ使用時の図2のように、A〜Fまでのラインが素子に存在すると仮定したときの画像の制御波形例を示す図である。   FIG. 4 is a diagram illustrating an example of an image control waveform when it is assumed that lines A to F exist in the element as in FIG. 2 when the global shutter is used.

この場合、グローバルシャッタ使用時は露光時間にズレを生じさせないため、画像に歪みを生じさせない。但し、露出終了が同時に起こるため、露光開始を全画素同時に行う必要がある。また、ローリングシャッタに比べ、画像転送時間が一斉に発生するため、長い時間要する。
したがって、ローリングシャッタの長所としては、その取り込みのスピードがグローバルシャッタやメカニカルシャッタに比べ高速なことである。短所としては、ライン間の画像歪みを生じさせることである。
それに比べ、グローバルシャッタ(またはメカニカルシャッタ)の長所は、画像の歪みを生じさせないデータを得ることができる一方、取り込みのスピードは、ローリングシャッタに比べ遅くなる。
これらの長所、短所をカメラシステムとして、予め予測しておけば、カメラの状況に応じ(たとえば、ユーザー設定)、画像歪みは許容できるがスピード優先は絶対必要な場合はどのような、画素数の画像であろうと全てローリングシャッタで取り込みをを行い、画質優先の場合は、その必要な画像データに関してはグローバルシャッタを用いる。
なお、一連の動作の中で、違う画素数を撮像素子から取り出すシステムに限らず、同一の画素数を取り扱う場合も同様なことが言える。
In this case, when the global shutter is used, the exposure time is not shifted, so that the image is not distorted. However, since exposure ends simultaneously, it is necessary to start exposure for all pixels simultaneously. In addition, compared to the rolling shutter, the image transfer time is generated all at once, so a long time is required.
Therefore, the advantage of the rolling shutter is that the capturing speed is faster than the global shutter and the mechanical shutter. The disadvantage is that it causes image distortion between lines.
In contrast, the advantage of the global shutter (or mechanical shutter) is that data that does not cause image distortion can be obtained, while the capturing speed is slower than that of the rolling shutter.
If these advantages and disadvantages are predicted in advance as a camera system, depending on the camera situation (for example, user settings), image distortion is acceptable but speed priority is absolutely necessary. Even if it is an image, all images are captured by a rolling shutter. If priority is given to image quality, a global shutter is used for the necessary image data.
The same applies to a case where the same number of pixels is handled in a series of operations, not limited to a system in which different numbers of pixels are extracted from the image sensor.

撮像装置1においては、被写体の光学像は、レンズ光学系10を介してイメージセンサ11に入射され、イメージセンサ11により光電変換されて電気信号となる。得られた電気信号は、CDS12によりノイズ成分が除去され、A/D変換器13によってディジタル化された後、画像処理部14が内蔵する画像メモリに一時格納される。
通常の状態では、タイミングジェネレータ17による信号処理系に対する制御により、画像処理部14が内蔵する画像メモリには、一定のフレームレートで絶えず画像信号が上書きされるようになされている。画像処理部14が内蔵する画像メモリの画像信号は、D/A変換器18によってアナログ信号に変換され、対応する画像が表示部19に表示される。
In the imaging apparatus 1, an optical image of a subject is incident on an image sensor 11 via a lens optical system 10, and is photoelectrically converted by the image sensor 11 to become an electrical signal. The obtained electrical signal is removed of noise components by the CDS 12, digitized by the A / D converter 13, and then temporarily stored in an image memory built in the image processing unit 14.
In a normal state, an image signal is constantly overwritten at a constant frame rate in the image memory built in the image processing unit 14 by the control of the signal processing system by the timing generator 17. The image signal of the image memory built in the image processing unit 14 is converted into an analog signal by the D / A converter 18, and a corresponding image is displayed on the display unit 19.

表示部19は、撮像装置1のファインダの役割も担っている。ユーザが操作入力部20に含まれるシャッタボタンを押下(操作)した後、制御部16は、タイミングジェネレータ17に対し、シャッタボタンが押下された直後の画像信号を保持するように、すなわち、画像処理部14の画像メモリに画像信号が上書きされないように、信号処理系を制御する。そして、画像処理部14の画像メモリに保持された画像データは、所定の方式により圧縮されてメモリ15に記録される。   The display unit 19 also serves as a finder for the imaging apparatus 1. After the user presses (operates) the shutter button included in the operation input unit 20, the control unit 16 holds the image signal immediately after the shutter button is pressed to the timing generator 17, that is, image processing. The signal processing system is controlled so that the image signal is not overwritten in the image memory of the unit 14. Then, the image data held in the image memory of the image processing unit 14 is compressed by a predetermined method and recorded in the memory 15.

次に、画像処理部14において実行される特徴的な処理について説明する。   Next, characteristic processing executed in the image processing unit 14 will be described.

画素数の違う画像の取り込みにおけるゲイン変倍若しくは平均制御
一連の動作の中で、違う画素数を撮像素子から取り出すシステムにおいて、動画主体として取り出す画像(比較的低画素数)と静止画として取り扱える画像(比較的高画素数)を同一ストリーム上で取り扱う場合、低画素取り込みの場合、出力される画素は最低でもその同一色画素の1画素以上の積分された画素データからなる。高画素取り込みの場合は、その低画素取り込み時の積分画素数に比べるとそれ以下の画素数となる。
その出力された画素の1画素の出力は、元の積分された画素数の差によりおのずと異なる。その異なった1画素1画素の出力を同一なものと判断すると、画像処理において、特にその画像の輝度が異なった画像を連続して生成してしまうため、おかしな画像となってしまう。
それを解消するため、画像処理部14は、画素が出力される部分で、その画素数に応じたディジタルゲインの回路(若しくはアナログゲインの回路)、もしくは画素数分平均化する回路を設け、1画素、1画素の画像出力に差異が発生することを補正する回路を設ける。
An image that can be handled as a moving image (a relatively low number of pixels) and an image that can be handled as a still image in a system that takes out the number of different pixels from the image sensor in a series of gain scaling or averaging control operations when capturing images with different numbers of pixels When handling (relatively high number of pixels) on the same stream, in the case of low pixel capture, the output pixel consists of integrated pixel data of at least one pixel of the same color pixel. In the case of high pixel capture, the number of pixels is less than the number of integrated pixels at the time of low pixel capture.
The output of one of the output pixels is naturally different due to the difference in the number of original integrated pixels. If it is determined that the outputs of the different one pixel and the same pixel are the same, in the image processing, images having particularly different luminances are continuously generated, resulting in a strange image.
In order to solve this problem, the image processing unit 14 is provided with a digital gain circuit (or an analog gain circuit) corresponding to the number of pixels or a circuit that averages the number of pixels at the pixel output portion. A circuit that corrects the occurrence of a difference in the image output of pixels and pixels is provided.

図5は、イメージセンサの概念図である。なお、図5においてRGBは色の3原色の赤、青、緑を示している。   FIG. 5 is a conceptual diagram of the image sensor. In FIG. 5, RGB indicates the three primary colors red, blue, and green.

図5のようなセンサ図において、静止画(高画素)を取り込む際は、ほぼ全画素に相当する画素を取り込む。それに対し、動画(低画素)の場合は画素数的にも少なくて済むために、全画素の取り込みは必要なく必要最小限の画素の取り込みを行う。
通常は不必要な画素は単純な間引きにより排除されるが、動画等のクオリティを求める場合、図5の(R)のように周辺のRを積分して取り出す。
その際出力された画素データが静止画(高画素)の場合と動画(低画素)の場合では異なり、出力のレベルの差がでる。
これを補正するため、高画素と低画素時では、その積分された画素の比に応じた係数を出力データに掛け補正するか若しくは積分された画素データをその積分された画素数に応じた係数で平均化することにより、静止画と動画時の出力レベルを補正する。
図6に、本実施形態に係る補正処理の概念図を示す。
In the sensor diagram as shown in FIG. 5, when capturing a still image (high pixel), pixels corresponding to almost all pixels are captured. On the other hand, in the case of a moving image (low pixels), since the number of pixels can be small, all pixels need not be captured, and the minimum necessary pixels are captured.
Normally, unnecessary pixels are eliminated by simple thinning, but when obtaining the quality of a moving image or the like, the surrounding R is integrated and extracted as shown in FIG.
At that time, the output pixel data differs between the case of the still image (high pixel) and the case of the moving image (low pixel).
In order to correct this, at the time of high pixels and low pixels, a coefficient corresponding to the ratio of the integrated pixel is applied to the output data for correction, or the integrated pixel data is corrected according to the number of integrated pixels. The output level for still images and moving images is corrected by averaging with.
FIG. 6 shows a conceptual diagram of correction processing according to the present embodiment.

高画素時のS/N情報制御
一連の動作の中で、違う画素数を撮像素子から取り出すシステムにおいて、動画主体として取り出す画像(比較的低画素数)と静止画として取り扱える画像(比較的高画素数)を同一ストリーム上で取り扱う場合、低画素キャプチャーの場合、出力される画素は最低でもその同一色画素の1画素以上の積分された画素データからなり、高画素キャプチャーの場合は、その低画素キャプチヤー時の積分画素数に比べるとそれ以下の画素数となる。
低画素取り込みの場合その1画素データは複数画素の積分から生成されており、短画素取り込み時のそれと比較すると、出力は積分数だけ大きくなり、S/Nとしても一般的に短画素のS/Nと、比較するとS/N的に優れた情報である。
本実施形態においては、その積分されたデータ(動画時の情報のS/N情報を利用し、比較的ノイズの多いとされる短画素データ(静止画の情報)の画質向上を達成させる。
S / N information control at the time of high pixels In a system in which a different number of pixels is extracted from the image sensor, an image to be extracted as a moving image (relatively low number of pixels) and an image that can be handled as a still image (relatively high pixels) In the case of low pixel capture, the output pixel consists of integrated pixel data of at least one pixel of the same color pixel, and in the case of high pixel capture, the low pixel The number of pixels is less than the number of integrated pixels at capture.
In the case of low pixel capture, the single pixel data is generated from the integration of a plurality of pixels. Compared with that at the time of short pixel capture, the output is increased by the number of integrals. Compared with N, the information is excellent in S / N.
In this embodiment, the integrated data (S / N information of information at the time of moving images is used to improve the image quality of short pixel data (still image information) that is relatively noisy.

その出力された画素の1画素の出力は、元の積分された画素数の差によりおのずと異なる。その異なった1画素1画素の出力を同一なものと判断すると、画像処理において、特にその画像の輝度が異なった画像を連続して生成してしまうため、おかしな画像となってしまう。
それを解消するため、画素が出力される部分で、上述したように、画素数に応じたディジタルゲインの回路(あるいはアナログゲインの回路)、若しくは画素数分平均化する回路を設け、1画素、1画素の画像出力に差異が発生することを補正する回路を設ける。
The output of one of the output pixels is naturally different due to the difference in the number of original integrated pixels. If it is determined that the outputs of the different one pixel and the same pixel are the same, in the image processing, images having particularly different luminances are continuously generated, resulting in a strange image.
In order to solve this problem, as described above, a digital gain circuit (or an analog gain circuit) corresponding to the number of pixels or a circuit that averages the number of pixels is provided in the portion where the pixels are output. A circuit for correcting occurrence of a difference in the image output of one pixel is provided.

図5を参照すると、図5は、4画素を積分している図を示している。
これは、すなわち単画素に比べると、そこから出力される(R)は約4倍の出力を持った画像出力となる。これはISOの感度で言えば約2段分有利に働く。この(R)情報を常時利用しているのが低画素出力時である。
それに比べ高画素出力時には、単画素出力情報rl〜r4の情報を利用している。
イメージセンサ11から出力されるレベレ調整のため、同一ストリーム上では、この単画素rl〜r4はアナログ若しくはデジタルによるゲインアップにより補正される。このゲインアップがS/Nに対し重大な劣化を招く。
元を正せば(R)情報はrl〜r4の積分情報であるので、ノイズの少ない(R)情報から類推することができる。
一方、単画素rnは、最終的にはゲインアップされたRnとなる。
Referring to FIG. 5, FIG. 5 shows a diagram integrating four pixels.
That is, as compared with a single pixel, (R) output therefrom is an image output having an output about four times. This is advantageous for about two stages in terms of ISO sensitivity. This (R) information is always used during low pixel output.
In contrast, at the time of high pixel output, information of single pixel output information rl to r4 is used.
In order to adjust the level output from the image sensor 11, the single pixels rl to r4 are corrected by increasing the analog or digital gain on the same stream. This gain increase causes a serious deterioration with respect to S / N.
If the original is corrected, the (R) information is the integration information of rl to r4, and can be inferred from the (R) information with less noise.
On the other hand, the single pixel rn finally becomes Rn whose gain has been increased.

すなわち、単画素が各々ゲインアップされたデータの和(R1+R2+R3+R4)は論理的には大元の(r1+r2+r3+r4)の和である(R)と等しくなければならない。ところが、ゲインアップ等のノイズ増大により、一般的に次の関係が成立する
r1+r2+r3+r4>>(R)
That is, the sum (R1 + R2 + R3 + R4) of the data obtained by increasing the gain of each single pixel must be logically equal to (R), which is the sum of the original (r1 + r2 + r3 + r4). However, the following relationship is generally established due to an increase in noise such as gain increase. R1 + r2 + r3 + r4 >> (R)

したがって、動画情報(R)と単画素のアドレスから一致する(R1+R2+R3+R4)の成分が存在する場合は、各々に掛けられたゲインが逆算し、その大元の成分である(r1+r2+r3+r4)に戻した内容とその積分で構成されているはずの(R)と比較し、
r1+r2+r3+r4>>(R)
に関係が成立した場合は、そのオーバ分はノイズと判断し、各々のRnに
(r1−n1)+(r2−n2)+(r3−n3)+(r4−n4)・・(1)
のn1〜n4に相当するN1〜N4を減じる補正を施す。
Therefore, if there is a component (R1 + R2 + R3 + R4) that matches the moving image information (R) from the address of a single pixel, the gain multiplied by each is calculated backward, and the content returned to the original component (r1 + r2 + r3 + r4) And (R), which should consist of the integral,
r1 + r2 + r3 + r4 >> (R)
When the relationship is established, it is determined that the excess is noise, and (r1−n1) + (r2−n2) + (r3−n3) + (r4−n4) + (r4−n4) (1)
Correction is performed to reduce N1 to N4 corresponding to n1 to n4.

この際、n1〜n4は一定値である可能性も、rl〜r4の出力比である可能性も、その混合の可能性もある。それはそのカメラシステムにおけるノイズ成分がどのようなノイズが支配的かによる。
また計算上(量子化誤差等)の誤差もあるた(1)式の右辺は(R)固定ではなく、(R)±xである。
このときのxは、計算上の丸め込み等の誤差で生じる誤差補正数である。
At this time, n1 to n4 may be constant values, may be output ratios of rl to r4, or may be mixed. It depends on what kind of noise is dominant in the noise component in the camera system.
Also, there is a calculation error (quantization error, etc.). The right side of equation (1) is not (R) fixed but (R) ± x.
At this time, x is the number of error corrections caused by errors such as rounding in calculation.

動画タイミング時の再生でも静止画画質を生成する方法
一連の動作の中で、違う画素数を撮像素子から取り出すシステムにおいて、動画主体として取り出す画像(比較的低画素数)と静止画として取り扱える画像(比較的高画素数)を同一ストリーム上で取り扱い制御する方式で、その再生時に動画の画質(低画素数)しかないタイミングであっても、周囲の静止画の情報から予測された情報により動画画質を静止画として復元させる。
Method of generating still image quality even during playback at the time of video timing In a series of operations that take out a different number of pixels from the image sensor, an image that can be extracted as a video subject (a relatively low number of pixels) and an image that can be handled as a still image ( A relatively high number of pixels) is handled and controlled on the same stream, and even when it has only video image quality (low pixel count) at the time of playback, the image quality is determined based on information predicted from surrounding still image information. Is restored as a still image.

動画(低画素)と静止画(高画素)混在のストリーム上では、図7のようになる。
ここで高画素(静止画)画像データInと低画素(動画)画像データbnとの違いは、出力される1画素相当画像情報の中、Inは相当する1画素の情報、bnは積分する画素情報、の違いがある。
また、Inはディジタル的には、積分は可能なため、実質的にはIn時の情報は、静止画情報および動画情報をもつことになる。
ここで、Iから予測される情報も含んだ動画情報bnからは、積分された情報を一塊とする、物体移動情報が算出される。
また、Inからは、その積分される各々の単画素の含有比率情報が得られる。
したがって、動画画素数の情報しか持たない、たとえばb5の静止画生成には、I情報の変動から予想される各々の積分される単画素の構成比率を乗ずれば、ここの画素成分に復元できる。その個々の単画素情報から画像を生成することにより、静止画画質の画像を作り出せる。また、上述の理由によりbとbの間の画像もbnの物体移動情報及びInの含有比率情報から作り出すことが可能である。
FIG. 7 shows a stream including a moving image (low pixel) and a still image (high pixel).
Here, the difference between the high pixel (still image) image data In and the low pixel (moving image) image data bn is that, in the output image information corresponding to one pixel, In is information of one corresponding pixel, and bn is a pixel to be integrated. There is a difference in information.
In addition, since In can be integrated digitally, information at the time of In substantially includes still image information and moving image information.
Here, from the moving image information bn including information predicted from I, object movement information is calculated by integrating the integrated information.
In addition, the content ratio information of each integrated single pixel is obtained from In.
Therefore, for example, b5 still image generation that has only information on the number of moving image pixels can be restored to the pixel component here by multiplying the component ratio of each integrated single pixel expected from the fluctuation of I information. . An image of still image quality can be created by generating an image from the individual single pixel information. For the above-described reason, an image between b and b can also be created from the object movement information of bn and the content ratio information of In.

以上説明したように、本実施形態における撮像装置1によれば、信号処理系において動画撮影中、高画素の画像データをイントラフレーム圧縮して第1の圧縮画像を生成し、第1の圧縮画像を生成する期間の前後の期間で、低画素の画像データをインターフレーム圧縮して第2の圧縮画像を生成し、第2の圧縮画像の一画面を指定すると、第2の圧縮画像とその前後の第1の圧縮画像を含めた他の圧縮画像により伸長復号して指定した一画面を示す高解像度の静止画像データを生成する。
そして、本実施形態に係る撮像装置1は、一動画像データ取り込み中に、ローリングシャッタ機能とグローバルシャッタ機能とを併用することから、画像の歪みの発生を抑止しつつ、高速で連続画像取り込みを行うことが可能となる利点がある。
また、本実施形態に係る撮像装置1は、第1の圧縮画像の画像レベルと第2の圧縮画像の画像レベルとを略等しいレベルの補正することができ、画像の輝度が異なった画像を連続して生成してしまうためことを防止できる利点がある。
As described above, according to the imaging device 1 in the present embodiment, during moving image shooting in the signal processing system, the first compressed image is generated by intra-frame compressing the high-pixel image data and generating the first compressed image. When the second compressed image is generated by inter-frame compression of the low pixel image data in a period before and after the period for generating the second compressed image and one screen of the second compressed image is designated, High-resolution still image data representing one designated screen is generated by decompression decoding with other compressed images including the first compressed image.
The imaging apparatus 1 according to the present embodiment uses the rolling shutter function and the global shutter function together during capturing of single moving image data, so that continuous image capturing is performed at high speed while suppressing the occurrence of image distortion. There are advantages that can be made.
In addition, the imaging apparatus 1 according to the present embodiment can correct the image level of the first compressed image and the image level of the second compressed image at substantially the same level, and continuously capture images having different image luminances. Therefore, there is an advantage that can be prevented from being generated.

本実施形態に係る撮像装置の一実施形態を示すブロック図である。It is a block diagram showing one embodiment of an imaging device concerning this embodiment. ローリングシャッタ使用時の撮像素子(イメージセンサ)の一例を示す図である。It is a figure which shows an example of the image pick-up element (image sensor) at the time of rolling shutter use. 図2のように、A〜Fまでのラインが素子に存在すると仮定したときの画像の制御波形例を示す図である。FIG. 3 is a diagram illustrating an example of a control waveform of an image when it is assumed that lines A to F exist in the element as illustrated in FIG. 2. グローバルシャッタ使用時の図2のように、A〜Fまでのラインが素子に存在すると仮定したときの画像の制御波形例を示す図である。FIG. 3 is a diagram illustrating an example of a control waveform of an image when it is assumed that lines A to F exist in the element as in FIG. 2 when the global shutter is used. イメージセンサの概念図である。It is a conceptual diagram of an image sensor. 本実施形態に係る補正処理の概念図を示す図である。It is a figure which shows the conceptual diagram of the correction process which concerns on this embodiment. 動画(低画素)と静止画(高画素)混在のストリーム上の概念図である。It is a conceptual diagram on the stream of a moving image (low pixel) and still image (high pixel) mixed.

符号の説明Explanation of symbols

1…撮像装置
10…レンズ光学系
11…イメージセンサ
12…CDS
13…A/D変換器
14…画像処理部
15…メモリ
16…制御部
17…タイミングジェネレータ
18…D/A変換器
19…表示部
20…操作入力部

DESCRIPTION OF SYMBOLS 1 ... Imaging device 10 ... Lens optical system 11 ... Image sensor 12 ... CDS
DESCRIPTION OF SYMBOLS 13 ... A / D converter 14 ... Image processing part 15 ... Memory 16 ... Control part 17 ... Timing generator 18 ... D / A converter 19 ... Display part 20 ... Operation input part

Claims (9)

被写体の光学像を撮像素子に結像させシャッタ機能により取り込んだ当該撮像素子による画像データに対して所定の画像処理を行う撮像装置であって、
上記シャッタ機能は、グローバルシャッタ機能とローリングシャッタ機能とを含み、
一動画像データ取り込み中に上記ローリングシャッタと上記グローバルシャッタとを併用する制御部と、
上記グローバルシャッタで取り込んだ画素のデータをイントラフレーム圧縮して第1の圧縮画像を生成し、上記第1の圧縮画像を生成する期間の前後の期間で、上記ローリングシャッタで取り込んだ画素のデータをインターフレーム圧縮して第2の圧縮画像を生成する画像処理部と
を有する撮像装置。
An imaging device that performs predetermined image processing on image data obtained by an imaging device that forms an optical image of a subject on an imaging device and captures the image by a shutter function.
The shutter function includes a global shutter function and a rolling shutter function,
A control unit that uses both the rolling shutter and the global shutter during one moving image data capture;
The pixel data captured by the global shutter is subjected to intra-frame compression to generate a first compressed image, and the pixel data captured by the rolling shutter is generated before and after the period for generating the first compressed image. And an image processing unit that generates a second compressed image by inter-frame compression.
上記画像処理部は、第1の圧縮画像を上記撮像素子から画像データを間引かずに読み出して生成し、上記第2の圧縮画像を上記撮像素子から画像データを間引いて読み出して生成する
請求項1に記載の撮像装置。
The image processing unit generates the first compressed image by reading out the image data from the image sensor without thinning out the image data, and generates the second compressed image by reading out the image data from the image sensor. The imaging apparatus according to 1.
上記画像処理部は、上記第1の圧縮画像の生成時は高画素の画像データをイントラフレーム圧縮し、上記第2の圧縮画像の生成時は、低画素の画像データをインターフレーム圧縮する
請求項1または2に記載の撮像装置。
The image processing unit performs intra-frame compression on high-pixel image data when generating the first compressed image, and performs inter-frame compression on low-pixel image data when generating the second compressed image. The imaging apparatus according to 1 or 2.
上記第2の圧縮画像を上記撮像素子からのデータを間引いて読み出して生成する場合、同色の近傍の画素の積分処理を行って間引き読み出しを行う
請求項2記載の撮像装置。
The imaging apparatus according to claim 2, wherein when the second compressed image is generated by thinning out data from the image sensor, thinning readout is performed by performing integration processing of pixels in the vicinity of the same color.
上記画像処理部は、上記第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する
請求項1乃至4のいずれか一に記載の撮像装置。
The imaging apparatus according to any one of claims 1 to 4, wherein the image processing unit corrects an image level of the first compressed image and an image level of the second compressed image to substantially equal levels.
上記画像処理部は、上記第2の圧縮画像の積分処理読み出しを行ったRレベルに基づき上記第1の圧縮画像の画像レベルを補正することにより、上記第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する
請求項4記載の撮像装置。
The image processing unit corrects the image level of the first compressed image based on the R level from which the integration processing read of the second compressed image is performed, whereby the image level of the first compressed image and the first level of the first compressed image are corrected. The imaging apparatus according to claim 4, wherein the image level of the second compressed image is corrected to a substantially equal level.
上記画像処理部は、上記第1の圧縮画像の画像レベルを維持し、上記第2の圧縮画像の画像レベルは、積分処理の積分量で除して補正することにより、上記第1の圧縮画像の画像レベルと上記第2の圧縮画像の画像レベルとを略等しいレベルに補正する
請求項4記載の撮像装置。
The image processing unit maintains the image level of the first compressed image, and corrects the image level of the second compressed image by dividing by an integration amount of the integration process, thereby correcting the first compressed image. The imaging apparatus according to claim 4, wherein the image level of the second compressed image and the image level of the second compressed image are corrected to substantially the same level.
上記画像処理部は、上記第2の圧縮画像の一画面を指定すると、当該第2の圧縮画像とその前後の上記第1の圧縮画像を含めた他の圧縮画像により伸長復号して当該指定した一画面を示す高解像度の静止画像データを生成する
請求項1乃至7のいずれか一に記載の撮像装置。
When the image processing unit designates one screen of the second compressed image, the image processing unit decompresses and decodes the second compressed image and the other compressed images including the first compressed image before and after the second compressed image and designates the second compressed image. The imaging device according to any one of claims 1 to 7, wherein high-resolution still image data representing one screen is generated.
被写体の光学像を撮像素子に結像させグローバルシャッタ機能とローリングシャッタ機能とを含むシャッタ機能により取り込んだ撮像素子による画像データに対して所定の画像処理を行って画像データを生成する撮像装置の画像生成方法であって、
一動画像データ取り込み中に、上記グローバルシャッタで取り込んだ画素のデータをイントラフレーム圧縮して1画面内での第1の圧縮画像を生成し、
上記第1の圧縮画像を生成する期間の前後の期間で、上記ローリングシャッタで取り込んだ画素のデータをインターフレーム圧縮して第2の圧縮画像を生成する
撮像装置の画像生成方法。
An image of an imaging apparatus that forms an optical image of a subject on an image sensor and performs predetermined image processing on image data from the image sensor captured by a shutter function including a global shutter function and a rolling shutter function to generate image data A generation method,
During the capture of the single moving image data, the pixel data captured by the global shutter is intra-frame compressed to generate a first compressed image within one screen,
An image generation method for an imaging apparatus, wherein the second compressed image is generated by inter-frame compression of pixel data captured by the rolling shutter in a period before and after the period for generating the first compressed image.
JP2004053831A 2004-02-27 2004-02-27 Imaging apparatus and image generation method thereof Expired - Fee Related JP4268891B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2004053831A JP4268891B2 (en) 2004-02-27 2004-02-27 Imaging apparatus and image generation method thereof
KR1020050016015A KR101110009B1 (en) 2004-02-27 2005-02-25 Imaging device and image generation method of imaging device
CNB200510052453XA CN100542214C (en) 2004-02-27 2005-02-28 The image producing method of imaging device and imaging device
US11/069,896 US20050190274A1 (en) 2004-02-27 2005-02-28 Imaging device and image generation method of imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004053831A JP4268891B2 (en) 2004-02-27 2004-02-27 Imaging apparatus and image generation method thereof

Publications (2)

Publication Number Publication Date
JP2005244760A true JP2005244760A (en) 2005-09-08
JP4268891B2 JP4268891B2 (en) 2009-05-27

Family

ID=35025977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004053831A Expired - Fee Related JP4268891B2 (en) 2004-02-27 2004-02-27 Imaging apparatus and image generation method thereof

Country Status (1)

Country Link
JP (1) JP4268891B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007281547A (en) * 2006-04-03 2007-10-25 Samsung Techwin Co Ltd Imaging apparatus and imaging method
JP2008152781A (en) * 2006-12-14 2008-07-03 Ncr Corp Image scanning device, and image scanning method
JP2009182527A (en) * 2008-01-29 2009-08-13 Morpho Inc Method and apparatus for capturing image
JP2010166535A (en) * 2009-01-19 2010-07-29 Canon Inc Image capturing apparatus and method of controlling the same
US8120675B2 (en) 2006-10-17 2012-02-21 Panasonic Corporation Moving image recording/playback device
CN101600057B (en) * 2008-06-06 2014-02-26 索尼株式会社 Solid state image capture device and camera system
US9185308B2 (en) 2010-09-14 2015-11-10 Fujifilm Corporation Imaging apparatus and imaging method
JP2017063430A (en) * 2011-03-22 2017-03-30 フィリップス ライティング ホールディング ビー ヴィ Optical detection system and method

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007281547A (en) * 2006-04-03 2007-10-25 Samsung Techwin Co Ltd Imaging apparatus and imaging method
US8120675B2 (en) 2006-10-17 2012-02-21 Panasonic Corporation Moving image recording/playback device
JP2008152781A (en) * 2006-12-14 2008-07-03 Ncr Corp Image scanning device, and image scanning method
JP2009182527A (en) * 2008-01-29 2009-08-13 Morpho Inc Method and apparatus for capturing image
JP4689687B2 (en) * 2008-01-29 2011-05-25 株式会社モルフォ Imaging method and imaging apparatus
CN101600057B (en) * 2008-06-06 2014-02-26 索尼株式会社 Solid state image capture device and camera system
JP2010166535A (en) * 2009-01-19 2010-07-29 Canon Inc Image capturing apparatus and method of controlling the same
US9185308B2 (en) 2010-09-14 2015-11-10 Fujifilm Corporation Imaging apparatus and imaging method
JP2017063430A (en) * 2011-03-22 2017-03-30 フィリップス ライティング ホールディング ビー ヴィ Optical detection system and method

Also Published As

Publication number Publication date
JP4268891B2 (en) 2009-05-27

Similar Documents

Publication Publication Date Title
KR101110009B1 (en) Imaging device and image generation method of imaging device
US8872937B2 (en) Image capture apparatus and image capturing method
JP4525561B2 (en) Imaging apparatus, image processing method, and program
JP4441882B2 (en) Imaging device, display control method, program
US8743227B2 (en) Imaging apparatus and control method for reducing a load of writing image data on a recording medium
WO2009098877A1 (en) Image processing device and image processing method
JP2000224490A (en) Image pickup controller and image pickup control method
JP2010136224A (en) Imaging apparatus and imaging method
JP4268891B2 (en) Imaging apparatus and image generation method thereof
JP3980781B2 (en) Imaging apparatus and imaging method
JP2006211426A (en) Image sensing device and its image generating method
JP2007067708A (en) Imaging apparatus and method of forming image by it
JP2010021710A (en) Imaging device, image processor, and program
JP4336827B2 (en) Imaging apparatus and image generation method thereof
JP4387264B2 (en) Imaging apparatus and image generation method thereof
JP5120369B2 (en) Still image generating apparatus, still image generating program, and still image generating method
JP4429148B2 (en) Image photographing and recording apparatus and method
JP2005244762A (en) Imaging apparatus and image forming method thereof
JP2005277618A (en) Photography taking apparatus and device and method for correcting shading
JP4449692B2 (en) Electronic camera
JP2006041862A (en) Imaging device and image readout method thereof
JP4626482B2 (en) Electronic camera
JP2000197003A (en) Dynamic image recorder
JP4992963B2 (en) Still image generating apparatus, still image generating program, and still image generating method
JP2006109046A (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090127

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090223

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120227

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees