JP6485204B2 - Imaging device, image file generation device, image file processing device, and program - Google Patents

Imaging device, image file generation device, image file processing device, and program Download PDF

Info

Publication number
JP6485204B2
JP6485204B2 JP2015098935A JP2015098935A JP6485204B2 JP 6485204 B2 JP6485204 B2 JP 6485204B2 JP 2015098935 A JP2015098935 A JP 2015098935A JP 2015098935 A JP2015098935 A JP 2015098935A JP 6485204 B2 JP6485204 B2 JP 6485204B2
Authority
JP
Japan
Prior art keywords
image
images
unit
replacement
reference image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015098935A
Other languages
Japanese (ja)
Other versions
JP2016219861A (en
Inventor
直樹 越川
直樹 越川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Imaging Co Ltd
Original Assignee
Ricoh Imaging Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Imaging Co Ltd filed Critical Ricoh Imaging Co Ltd
Priority to JP2015098935A priority Critical patent/JP6485204B2/en
Publication of JP2016219861A publication Critical patent/JP2016219861A/en
Application granted granted Critical
Publication of JP6485204B2 publication Critical patent/JP6485204B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、撮影装置、画像ファイル生成装置、画像ファイル処理装置及びプログラムに関する。 The present invention, imaging apparatus, an image file generation device, an image file processing equipment and programs.

特許文献1には、複数の撮像デバイスのばらつきによる画質劣化を低減するとともに、高速に高解像度画像を合成することを目的とした画像合成装置が開示されている。   Japanese Patent Application Laid-Open No. 2004-151561 discloses an image composition device that aims to reduce image quality deterioration due to variations in a plurality of imaging devices and to synthesize a high-resolution image at high speed.

この画像合成装置は、複数の画像データを合成することにより合成画像データを生成し、複数の画像データのうちの1つを基準画像データとして選択し、合成画像データと基準画像データのそれぞれに対して分割領域の画質を比較して合成画像データの画質が向上している分割領域が含まれている合成処理範囲を選択し、合成処理範囲の合成画像データに対して合成処理範囲外の基準画像データを合成することにより高解像度化画像を生成するものである。   The image composition device generates composite image data by combining a plurality of image data, selects one of the plurality of image data as reference image data, and each of the composite image data and the reference image data Compare the image quality of the divided areas, select the composite processing range that includes the divided areas where the image quality of the composite image data is improved, and select the reference image outside the composite processing range for the composite image data in the composite processing range A high resolution image is generated by combining the data.

特開2010−34964号公報JP 2010-34964 A

しかしながら、特許文献1の画像合成装置は、画像合成を行う度に、基準画像データの選択と合成処理範囲の選択を繰り返すことが必須である。このため、画像合成処理の重複が生じて、処理時間が長くなる、CPU資源の無駄が大きくなるといった問題がある。   However, it is essential for the image synthesizing apparatus disclosed in Patent Document 1 to repeat selection of the reference image data and selection of the synthesis processing range each time image synthesis is performed. For this reason, there is a problem in that duplication of image synthesis processing occurs, processing time becomes long, and CPU resources are wasted.

また、近年では、カメラの高機能化や多機能化に伴って、非常に多岐に亘る撮影者の撮影趣向が存在するようになっている。例えば、複数の画像データ、基準画像データ、合成処理範囲等の各種パラメータに微妙な改変を加えたオリジナルの合成画像を得たいという撮影者の撮影趣向が存在する。この点、特許文献1の画像合成装置は、一律的かつ機械的な処理フローで画像合成を行っているので、このような撮影者の撮影趣向に柔軟に対応することができない。   In recent years, as the functions of cameras have become higher and more multifunctional, there have been a wide variety of shooting preferences for photographers. For example, there is a photographing preference of a photographer who wants to obtain an original composite image in which various parameters such as a plurality of image data, reference image data, and a composition processing range are slightly modified. In this regard, since the image composition apparatus of Patent Document 1 performs image composition in a uniform and mechanical processing flow, it cannot flexibly cope with such photographing preferences of photographers.

本発明は、以上の問題意識に基づいてなされたものであり、簡単な構成で、撮影者の撮影趣向に柔軟に対応することができる撮影装置、画像ファイル生成装置、画像ファイル処理装置及びプログラムを得ることを目的とする。 The present invention, these problems are those conscious was made based on a simple configuration, the photographing apparatus which can flexibly respond to shooting preference of the photographer, an image file generation device, image file processing equipment and flop The purpose is to obtain a program.

本発明の撮影装置は、複数の画像を取得する画像取得部と、前記複数の画像の中から基準画像を決定する基準画像決定部と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、を有することを特徴としている。   An imaging apparatus according to the present invention includes an image acquisition unit that acquires a plurality of images, a reference image determination unit that determines a reference image from the plurality of images, and at least a part of a composite image obtained by combining the plurality of images. A replacement region calculation unit that calculates a replacement region for replacement with the reference image; and an image file generation unit that generates an image file including information indicating the plurality of images and the reference image and the replacement region. It is characterized by.

本発明の撮影装置は、前記置換領域を示す情報に従って前記合成画像を前記基準画像で置換した合成置換画像を生成する合成置換画像生成部をさらに有することができる。   The imaging apparatus of the present invention may further include a composite replacement image generation unit that generates a composite replacement image obtained by replacing the composite image with the reference image in accordance with information indicating the replacement region.

本発明の撮影装置は、前記画像ファイルと前記合成置換画像の各出力の有無を設定する出力設定部をさらに有することができる。   The photographing apparatus of the present invention may further include an output setting unit that sets whether to output each of the image file and the composite replacement image.

前記複数の画像は、同一の被写体について撮影条件を変えながら連続的に撮影したものとすることができる。   The plurality of images may be taken continuously while changing the shooting conditions for the same subject.

前記複数の画像は、撮影光学系により形成された被写体像を電気的な画素信号に変換するイメージセンサにより撮影したものであり、且つ、前記撮影光学系の少なくとも一部をなす光学要素と前記イメージセンサの少なくとも一方を移動部材とし、この移動部材を前記撮影光学系の光軸と異なる方向に移動させながら、各移動後の被写体光束を前記イメージセンサの検出色の異なる複数の画素に入射させて撮影したものとすることができる。   The plurality of images are images taken by an image sensor that converts an object image formed by a photographing optical system into an electrical pixel signal, and the optical element that forms at least a part of the photographing optical system and the image Using at least one of the sensors as a moving member and moving the moving member in a direction different from the optical axis of the photographing optical system, the subject light flux after each movement is incident on a plurality of pixels having different detection colors of the image sensor. It can be taken.

本発明の画像ファイル生成装置は、複数の画像が入力する画像入力部と、前記複数の画像の中から基準画像を決定する基準画像決定部と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、を有することを特徴としている。   An image file generation device according to the present invention includes at least one of an image input unit that inputs a plurality of images, a reference image determination unit that determines a reference image from the plurality of images, and a composite image obtained by combining the plurality of images. A replacement region calculation unit that calculates a replacement region for replacing a part with the reference image, and an image file generation unit that generates an image file including information indicating the plurality of images and the reference image and the replacement region. It is characterized by having.

本発明の画像ファイル処理装置は、複数の画像と、前記複数の画像の中から決定した基準画像を示す情報と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を示す情報と、を有する画像ファイルが入力する画像ファイル入力部と、前記画像ファイル中の前記複数の画像並びに前記基準画像及び前記置換領域を示す情報の少なくとも一部を選択してこれに改変を加えることができるパラメータ改変部と、前記パラメータ改変部による改変の有無を受けて、前記パラメータ改変部による複数の画像を合成して合成画像を得る画像合成部と、前記パラメータ改変部による改変の有無を受けて、前記合成画像の少なくとも一部を、前記パラメータ改変部による置換領域に従って、前記パラメータ改変部による基準画像で置換する画像置換部と、を有することを特徴としている。   The image file processing apparatus of the present invention replaces at least a part of a plurality of images, information indicating a reference image determined from the plurality of images, and a composite image obtained by combining the plurality of images with the reference image. An image file input unit for inputting an image file having information for indicating a replacement area, and at least a part of the plurality of images in the image file and the information indicating the reference image and the replacement area A parameter modifying unit that can modify the image, an image combining unit that receives a presence or absence of modification by the parameter modifying unit, synthesizes a plurality of images by the parameter modifying unit, and obtains a composite image; and the parameter modifying unit In response to the presence / absence of modification by the parameter modification unit, at least a part of the composite image is changed according to the replacement region by the parameter modification unit. It is characterized by having an image replacing unit for replacing the reference image with the.

本発明のプログラムは、複数の画像の中から基準画像を決定する基準画像決定ステップと、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出ステップと、前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成ステップと、をコンピュータに実行させることを特徴としている。   The program of the present invention calculates a reference image determining step for determining a reference image from among a plurality of images, and a replacement area for replacing at least a part of a composite image obtained by combining the plurality of images with the reference image. A replacement area calculation step and an image file generation step for generating an image file including information indicating the plurality of images, the reference image, and the replacement area are executed by a computer.

本発明によれば、簡単な構成で、撮影者の撮影趣向に柔軟に対応することができる撮影装置、画像ファイル生成装置、画像ファイル処理装置及びプログラムが得られる。 According to the present invention, with a simple configuration, the photographing apparatus which can flexibly respond to shooting preference of the photographer, an image file generation device, image file processing equipment and programs can be obtained.

本実施形態のデジタルカメラ(撮影装置)の要部構成を示すブロック図である。It is a block diagram which shows the principal part structure of the digital camera (imaging device) of this embodiment. 像振れ補正装置の要部構成を示すブロック図である。2 is a block diagram illustrating a main configuration of an image shake correction apparatus. FIG. 像振れ補正装置の構成を示す側面図である。It is a side view which shows the structure of an image shake correction apparatus. 図4(A)〜図4(D)は本実施形態の「RRS撮影モード」の一例を示す概念図である。FIG. 4A to FIG. 4D are conceptual diagrams illustrating an example of the “RRS imaging mode” of the present embodiment. DSP(画像ファイル生成装置)の内部構成を示す機能ブロック図である。It is a functional block diagram which shows the internal structure of DSP (image file generation apparatus). 置換領域算出部が算出した合成画像データの基準画像置換領域と非置換領域の一例を示す図である。It is a figure which shows an example of the reference | standard image replacement area | region and non-replacement area | region of the composite image data which the replacement area | region calculation part calculated. 画像ファイル生成部が生成した特殊画像ファイルのデータ構造を示す図である。It is a figure which shows the data structure of the special image file which the image file generation part produced | generated. 本実施形態のデジタルカメラによる撮影処理を示すフローチャートである。It is a flowchart which shows the imaging | photography process by the digital camera of this embodiment. 本実施形態のデジタルカメラが出力した特殊画像ファイルを画像処理する外部アプリケーションとしての画像ファイル処理装置を示す機能ブロック図である。FIG. 2 is a functional block diagram illustrating an image file processing apparatus as an external application that performs image processing on a special image file output by the digital camera of the present embodiment.

図1〜図9を参照して、本実施形態による撮影システム(画像処理システム)について説明する。   The imaging system (image processing system) according to the present embodiment will be described with reference to FIGS.

図1は、デジタルカメラ(撮影装置)10の要部構成を示すブロック図である。デジタルカメラ10は、ボディ本体20と、このボディ本体20に着脱可能(レンズ交換可能)な撮影レンズ30とを備えている。撮影レンズ30は、被写体側(図1中の左側)から像面側(図1中の右側)に向かって順に、撮影レンズ群(撮影光学系、移動部材、振れ補正部材)31と、絞り(撮影光学系)32とを備えている。ボディ本体20は、被写体側(図1中の左側)から像面側(図1中の右側)に向かって順に、シャッタ(撮影光学系)21と、イメージセンサ(画像取得部、移動部材、振れ補正部材)22とを備えている。またボディ本体20は、撮影レンズ30への装着状態で絞り32とシャッタ21を駆動制御する絞り/シャッタ駆動回路23を備えている。撮影レンズ群31から入射し、絞り32とシャッタ21を通った被写体光束による被写体像が、イメージセンサ22の受光面上に形成される。イメージセンサ22の受光面上に形成された被写体像は、マトリックス状に配置された検出色の異なる多数の画素によって、電気的な画素信号に変換され、画像データ(後述する複数のRAW画像データ)としてDSP(画像ファイル生成装置)40に出力される。DSP40は、イメージセンサ22から入力した画像データに所定の画像処理を施して、これをLCD24に表示し、画像メモリ25に記憶する。なお、図1では、撮影レンズ群31が単レンズからなるように描いているが、実際の撮影レンズ群31は、例えば、固定レンズ、変倍時に移動する変倍レンズ、フォーカシング時に移動するフォーカシングレンズなどの複数枚のレンズを有している。   FIG. 1 is a block diagram showing a main configuration of a digital camera (photographing apparatus) 10. The digital camera 10 includes a body main body 20 and a photographic lens 30 that can be attached to and detached from the body main body 20 (lens exchangeable). The photographic lens 30 includes, in order from the subject side (left side in FIG. 1) to the image plane side (right side in FIG. 1), a photographic lens group (photographic optical system, moving member, shake correction member) 31, and aperture ( Photographing optical system) 32. The body body 20 includes a shutter (photographing optical system) 21 and an image sensor (image acquisition unit, moving member, shake) in order from the subject side (left side in FIG. 1) to the image plane side (right side in FIG. 1). Correction member) 22. The body body 20 also includes a diaphragm / shutter drive circuit 23 that controls driving of the diaphragm 32 and the shutter 21 in a state where the body body 20 is attached to the photographing lens 30. A subject image is formed on the light receiving surface of the image sensor 22 by the subject light flux that enters from the photographing lens group 31 and passes through the aperture 32 and the shutter 21. The subject image formed on the light receiving surface of the image sensor 22 is converted into an electrical pixel signal by a large number of pixels having different detection colors arranged in a matrix, and image data (a plurality of RAW image data described later). Is output to a DSP (image file generation device) 40. The DSP 40 performs predetermined image processing on the image data input from the image sensor 22, displays it on the LCD 24, and stores it in the image memory 25. In FIG. 1, the photographic lens group 31 is depicted as a single lens. However, the actual photographic lens group 31 may be, for example, a fixed lens, a variable magnification lens that moves during zooming, or a focusing lens that moves during focusing. And a plurality of lenses.

図示は省略しているが、イメージセンサ22は、パッケージと、このパッケージに収納される固体撮像素子チップと、この固体撮像素子チップを密封保護するようにパッケージに固定される蓋部材とを含む複数の構成要素からなる。本明細書において、「イメージセンサ22を駆動する」とは、「イメージセンサ22の複数の構成要素のうち被写体光束が通過する少なくとも一部を駆動する」ことを意味する。   Although not shown, the image sensor 22 includes a plurality of packages, a solid-state image sensor chip housed in the package, and a lid member fixed to the package so as to hermetically protect the solid-state image sensor chip. It consists of the following components. In this specification, “driving the image sensor 22” means “driving at least a part of the plurality of components of the image sensor 22 through which the subject luminous flux passes”.

撮影レンズ30は、撮影レンズ群31の解像力(MTF)情報や絞り32の開口径(絞り値)情報などの各種情報を記憶した通信用メモリ33を搭載している。撮影レンズ30をボディ本体20に装着した状態では、通信用メモリ33が記憶した各種情報がDSP40に読み込まれる。   The photographic lens 30 includes a communication memory 33 that stores various information such as resolving power (MTF) information of the photographic lens group 31 and aperture diameter (aperture value) information of the diaphragm 32. In a state where the photographic lens 30 is attached to the body main body 20, various information stored in the communication memory 33 is read into the DSP 40.

ボディ本体20は、DSP40に接続させて、撮影操作スイッチ26を備えている。撮影操作スイッチ26は、電源スイッチやレリーズスイッチなどの各種スイッチからなる。   The body main body 20 is connected to the DSP 40 and includes a photographing operation switch 26. The photographing operation switch 26 includes various switches such as a power switch and a release switch.

ボディ本体20は、DSP40に接続させて、ジャイロセンサ(振れ検出部)27を備えている。ジャイロセンサ27は、ボディ本体20に加わる移動角速度(X軸とY軸周り)を検出することで、該ボディ本体20の光軸直交平面内の振れを示す振れ検出信号を検出する。   The body body 20 includes a gyro sensor (a shake detection unit) 27 connected to the DSP 40. The gyro sensor 27 detects a shake detection signal indicating a shake in the plane orthogonal to the optical axis of the body body 20 by detecting a moving angular velocity (around the X axis and the Y axis) applied to the body body 20.

図1〜図3に示すように、イメージセンサ22は、撮影光学系の光軸Zと直交するX軸方向とY軸方向(直交二方向)に移動可能に像振れ補正装置50に搭載されている。像振れ補正装置50は、ボディ本体20のシャーシなどの構造物に固定される固定支持基板51と、イメージセンサ22を固定した、固定支持基板51に対してスライド可能な可動ステージ52と、固定支持基板51の可動ステージ52との対向面に固定した磁石M1、M2、M3と、固定支持基板51に可動ステージ52を挟んで各磁石M1、M2、M3と対向させて固定した、各磁石M1、M2、M3との間に磁気回路を構成する磁性体からなるヨークY1、Y2、Y3と、可動ステージ52に固定した、前記磁気回路の磁界内において電流を受けることにより駆動力を発生する駆動用コイルC1、C2、C3を有している。駆動用コイルC1、C2、C3に交流駆動信号(交流電圧)を流す(印加する)ことにより、固定支持基板51に対して可動ステージ52(イメージセンサ22)が光軸直交平面内で駆動するようになっている。駆動用コイルC1、C2、C3に流す交流駆動信号は、DSP40による制御の下、イメージセンサ駆動回路60によって生成される。   As shown in FIGS. 1 to 3, the image sensor 22 is mounted on the image blur correction device 50 so as to be movable in the X-axis direction and the Y-axis direction (two orthogonal directions) orthogonal to the optical axis Z of the photographing optical system. Yes. The image shake correction apparatus 50 includes a fixed support substrate 51 fixed to a structure such as a chassis of the body main body 20, a movable stage 52 that fixes the image sensor 22 and is slidable with respect to the fixed support substrate 51, and fixed support. Magnets M1, M2, M3 fixed on the surface of the substrate 51 facing the movable stage 52, and each magnet M1, fixed on the fixed support substrate 51 with the movable stage 52 sandwiched between the magnets M1, M2, M3, For driving to generate a driving force by receiving a current in a magnetic field of the magnetic circuit fixed to the movable stage 52 and the yokes Y1, Y2, Y3 made of a magnetic material constituting the magnetic circuit between M2 and M3 Coils C1, C2, and C3 are provided. By flowing (applying) an AC drive signal (AC voltage) to the drive coils C1, C2, and C3, the movable stage 52 (image sensor 22) is driven in a plane orthogonal to the optical axis with respect to the fixed support substrate 51. It has become. The AC drive signal that flows through the drive coils C1, C2, and C3 is generated by the image sensor drive circuit 60 under the control of the DSP 40.

本実施形態では、磁石M1、ヨークY1及び駆動用コイルC1からなる磁気駆動手段と、磁石M2、ヨークY2及び駆動用コイルC2からなる磁気駆動手段(2組の磁気駆動手段)とがイメージセンサ22の長手方向(水平方向、X軸方向)に所定間隔で配置され、磁石M3、ヨークY3及び駆動用コイルC3からなる磁気駆動手段(1組の磁気駆動手段)がイメージセンサ22の長手方向と直交する短手方向(鉛直(垂直)方向、Y軸方向)に配置されている。   In the present embodiment, the image sensor 22 includes a magnetic driving unit including the magnet M1, the yoke Y1, and the driving coil C1, and a magnetic driving unit (two sets of magnetic driving units) including the magnet M2, the yoke Y2, and the driving coil C2. Are arranged at predetermined intervals in the longitudinal direction (horizontal direction, X-axis direction), and magnetic drive means (a set of magnetic drive means) including the magnet M3, the yoke Y3, and the drive coil C3 are orthogonal to the longitudinal direction of the image sensor 22. Are arranged in the short direction (vertical (vertical) direction, Y-axis direction).

さらに固定支持基板51には、各駆動用コイルC1、C2、C3の近傍(中央空間部)に、磁石M1、M2、M3の磁力を検出して可動ステージ52(イメージセンサ22)の光軸直交平面内の位置を示すホール出力信号(位置検出信号)を出力(検出)するホールセンサ(位置検出部)H1、H2、H3が配置されている。ホールセンサH1、H2により可動ステージ52(イメージセンサ22)のY軸方向位置及び傾き(回転)が検出され、ホールセンサH3により可動ステージ52(イメージセンサ22)のX軸方向位置が検出される。DSP40は、イメージセンサ駆動回路60を介して、ジャイロセンサ27が検出したボディ本体20の光軸直交平面内の振れを示す振れ検出信号と、ホールセンサH1、H2、H3が出力したイメージセンサ22の光軸直交平面内の位置を示すホール出力信号とに基づいて、像振れ補正装置50によってイメージセンサ22を光軸直交平面内で駆動する。これにより、イメージセンサ22上への被写体像の結像位置を変位させて、手振れに起因する像振れを補正することができる。   Further, the fixed support substrate 51 detects the magnetic force of the magnets M1, M2, and M3 in the vicinity (central space) of each of the driving coils C1, C2, and C3, and is orthogonal to the optical axis of the movable stage 52 (image sensor 22). Hall sensors (position detection units) H1, H2, and H3 for outputting (detecting) a hall output signal (position detection signal) indicating a position in the plane are arranged. The position and tilt (rotation) of the movable stage 52 (image sensor 22) are detected by the hall sensors H1 and H2, and the position of the movable stage 52 (image sensor 22) is detected by the hall sensor H3. The DSP 40 detects, via the image sensor drive circuit 60, a shake detection signal indicating a shake in the plane orthogonal to the optical axis of the body main body 20 detected by the gyro sensor 27, and the image sensor 22 output by the hall sensors H1, H2, and H3. The image blur correction device 50 drives the image sensor 22 in the optical axis orthogonal plane based on the Hall output signal indicating the position in the optical axis orthogonal plane. Thereby, the image formation position of the subject image on the image sensor 22 can be displaced, and the image shake due to the camera shake can be corrected.

本実施形態のデジタルカメラ10は、像振れ補正装置50を利用して、イメージセンサ22(イメージセンサユニット)を撮影光学系の光軸Zと直交する平面内で微細に移動させながら複数回の撮影を行い、その画像を1枚に合成(画像の単純な加算ではなくデータ上の画像処理による特殊演算を行っての合成)することで、超高精細(高画質、高精度)な画像を生成する撮影モードを搭載している。以下ではこの撮影モードを「RRS(リアル・レゾリューション・システム)撮影モード」と呼ぶ。「RRS撮影モード」では、1画素あたり1つの色情報のみを取得する従来のベイヤ方式と異なり、1画素毎にRGB各色の情報を得ることで、細部までのディティールや色再現に優れた極めて高精細な画像を描き出すことができる。また、モアレや偽色が発生することが無く、高感度ノイズを低減する効果が得られる。   The digital camera 10 according to the present embodiment uses the image blur correction device 50 to shoot a plurality of times while finely moving the image sensor 22 (image sensor unit) in a plane perpendicular to the optical axis Z of the imaging optical system. And combining the images into a single image (compositing by performing special operations by image processing on the data rather than simply adding the images), generating an ultra-high definition (high image quality, high accuracy) image Equipped with a shooting mode. Hereinafter, this photographing mode is referred to as “RRS (Real Resolution System) photographing mode”. In the “RRS shooting mode”, unlike the conventional Bayer method in which only one color information is acquired per pixel, information on each color of RGB is obtained for each pixel, so that the details and color reproduction in detail are excellent. A fine image can be drawn. Further, moire and false colors are not generated, and an effect of reducing high-sensitivity noise can be obtained.

図4(A)〜図4(D)は本実施形態の「RRS撮影モード」の一例を示す概念図である。同図において、イメージセンサ22は、受光面にマトリックス状に所定の画素ピッチで配置された多数の画素を備え、各画素の前面にベイヤ配列のカラーフィルタR、G(Gr、Gb)、Bのいずれかが配置されている。各画素は、前面のカラーフィルタR、G(Gr、Gb)、Bを透過して入射した被写体光線の色を検出、つまり、色成分(色帯域)の光を光電変換し、その強さ(輝度)に応じた電荷を蓄積する。より具体的に、図4(A)の基準位置で1枚の画像を撮影し、そこからイメージセンサ22を1画素ピッチだけ下方に移動させた図4(B)の位置で1枚の画像を撮影し、そこからイメージセンサ22を1画素ピッチだけ右方に移動させた図4(C)の位置で1枚の画像を撮影し、そこからイメージセンサ22を1画素ピッチだけ上方に移動させた図4(D)の位置で1枚の画像を撮影し、最後に図4(A)の基準位置に戻る。このように、イメージセンサ22を光軸直交平面内で1画素ピッチの正方形を描くように駆動しながら撮影した4枚の画像が、RAW画像データとして、DSP(画像ファイル生成装置)40に入力される。   FIG. 4A to FIG. 4D are conceptual diagrams illustrating an example of the “RRS imaging mode” of the present embodiment. In the figure, an image sensor 22 includes a large number of pixels arranged at a predetermined pixel pitch in a matrix on the light receiving surface, and a Bayer array of color filters R, G (Gr, Gb), B on the front surface of each pixel. Either one is arranged. Each pixel detects the color of the subject light ray that has passed through the front color filters R, G (Gr, Gb), B, that is, photoelectrically converts the light of the color component (color band), and the intensity ( Accumulate charges according to (luminance). More specifically, one image is taken at the reference position shown in FIG. 4A, and one image is taken at the position shown in FIG. 4B where the image sensor 22 is moved downward by one pixel pitch. A single image was taken at the position shown in FIG. 4C where the image sensor 22 was moved to the right by one pixel pitch from there, and the image sensor 22 was moved upward by one pixel pitch therefrom. One image is taken at the position of FIG. 4D, and finally returns to the reference position of FIG. In this way, four images taken while driving the image sensor 22 so as to draw a square of one pixel pitch in the plane orthogonal to the optical axis are input to the DSP (image file generation device) 40 as RAW image data. The

図5は、DSP(画像ファイル生成装置)40の内部構成を示す機能ブロック図である。このDSP40は、イメージセンサ22が「RRS撮影モード」で撮影(取得)した4枚(複数枚)のRAW画像データに対して各種の処理を施すものである。   FIG. 5 is a functional block diagram showing an internal configuration of the DSP (image file generation device) 40. The DSP 40 performs various processes on four (a plurality of) RAW image data shot (acquired) by the image sensor 22 in the “RRS shooting mode”.

DSP(画像ファイル生成装置)40は、画像入力部40Aと、画像合成部40Bと、基準画像決定部40Cと、置換領域算出部(基準画像置換領域算定部)40Dと、基準画像置換部40Eと、合成置換画像生成部(合成処理済画像ファイル生成部)40Fと、合成前複数フレーム画像統合部40Gと、付加情報生成部40Hと、画像ファイル生成部(合成前複数フレーム画像ファイル生成部)40Iと、画像ファイル保存部40Jとを有している。   The DSP (image file generation device) 40 includes an image input unit 40A, an image composition unit 40B, a reference image determination unit 40C, a replacement region calculation unit (reference image replacement region calculation unit) 40D, and a reference image replacement unit 40E. A combined replacement image generation unit (composited image file generation unit) 40F, a pre-combination multi-frame image integration unit 40G, an additional information generation unit 40H, and an image file generation unit (pre-combination multi-frame image file generation unit) 40I. And an image file storage unit 40J.

画像入力部40Aは、イメージセンサ22からの4枚(複数枚)のRAW画像データが入力されるものである。   The image input unit 40A receives four (a plurality of) RAW image data from the image sensor 22.

画像合成部40Bは、画像入力部40Aに入力した4枚のRAW画像データを合成して画像処理し、合成画像データを得る。   The image composition unit 40B combines the four pieces of RAW image data input to the image input unit 40A and performs image processing to obtain composite image data.

基準画像決定部40Cは、画像入力部40Aに入力した4枚のRAW画像データの中から1枚を選択してこれを基準画像データに決定する。例えば、基準画像決定部40Cは、イメージセンサ22が最初(1枚目)または最後(4枚目)に撮影したRAW画像データを基準画像データに決定する。   The reference image determination unit 40C selects one of the four RAW image data input to the image input unit 40A and determines this as reference image data. For example, the reference image determination unit 40C determines the RAW image data captured by the image sensor 22 first (first image) or last (fourth image) as reference image data.

置換領域算出部40Dは、画像合成部40Bによる合成画像データの少なくとも一部を基準画像決定部40Cが決定した基準画像データで置換するための置換領域を算出する。置換領域算出部40Dは、画像合成部40Bによる合成画像データの品質が所定の水準を満足しているか否か、すなわち手振れや被写体の動き、蛍光灯のちらつき(フリッカー)の悪影響を受けているか否か等に基づいて、置換領域を算出する。   The replacement region calculation unit 40D calculates a replacement region for replacing at least part of the composite image data by the image composition unit 40B with the reference image data determined by the reference image determination unit 40C. The replacement area calculation unit 40D determines whether or not the quality of the combined image data by the image combining unit 40B satisfies a predetermined level, that is, whether or not it is adversely affected by camera shake, subject movement, or flickering of a fluorescent lamp. Based on the above, a replacement area is calculated.

より具体的に、置換領域算出部40Dは、基準画像データと他の合成前フレーム画像データとを画素ごとに比較することにより、置換領域を算出する。あるいは、置換領域算出部40Dは、各合成前フレーム画像データをブロック化し、基準画像データと他の合成前フレーム画像データとをブロックごとに比較することにより、置換領域を算出する。あるいは、置換領域算出部40Dは、輝度データや色差データにより差分情報を得て、この差分情報に基づいて、置換領域を算出する。あるいは、置換領域算出部40Dは、高周波成分の検出を行ってその高周波成分が閾値を超えているか否かを判定することにより、置換領域を算出する。このように、置換領域算出部40Dが置換領域を算出する態様には自由度があり、種々の設計変更が可能である。   More specifically, the replacement area calculation unit 40D calculates a replacement area by comparing the reference image data and other pre-combination frame image data for each pixel. Alternatively, the replacement region calculation unit 40D calculates a replacement region by blocking each pre-combination frame image data and comparing the reference image data and other pre-combination frame image data for each block. Alternatively, the replacement area calculation unit 40D obtains difference information from luminance data and color difference data, and calculates a replacement area based on the difference information. Alternatively, the replacement region calculation unit 40D calculates a replacement region by detecting a high-frequency component and determining whether the high-frequency component exceeds a threshold value. As described above, the manner in which the replacement region calculation unit 40D calculates the replacement region has a degree of freedom, and various design changes are possible.

図6は、置換領域算出部40Dが算出した合成画像データの基準画像置換領域と非置換領域の一例を示す図である。合成画像データの基準画像置換領域は、合成画像データの品質が所定の水準を満足しないために基準画像データでの置換が指定される領域であり、非置換領域は、合成画像データの該当部分をそのまま適用(使用)する領域である。   FIG. 6 is a diagram illustrating an example of the reference image replacement region and the non-replacement region of the composite image data calculated by the replacement region calculation unit 40D. The reference image replacement area of the composite image data is an area in which replacement with the reference image data is specified because the quality of the composite image data does not satisfy a predetermined level, and the non-replacement area is a corresponding portion of the composite image data. This is an area to be applied (used) as it is.

基準画像置換部40Eは、置換領域算出部40Dが算出した置換領域(図6)に従って、画像合成部40Bによる合成画像データを、基準画像決定部40Cが決定した基準画像データで置換する。   The reference image replacement unit 40E replaces the composite image data obtained by the image composition unit 40B with the reference image data determined by the reference image determination unit 40C according to the replacement region calculated by the replacement region calculation unit 40D (FIG. 6).

合成置換画像生成部40Fは、基準画像置換部40Eが置換した合成置換画像データを所定のファイル形式(例えばJPEG形式)で生成する。   The composite replacement image generation unit 40F generates the composite replacement image data replaced by the reference image replacement unit 40E in a predetermined file format (for example, JPEG format).

合成前複数フレーム画像統合部40Gは、画像入力部40Aに入力した4枚のRAW画像データを合成前複数フレーム画像として統合する。   The pre-combination multi-frame image integration unit 40G integrates the four RAW image data input to the image input unit 40A as a pre-combination multi-frame image.

付加情報生成部40Hは、基本付加情報(例えばExif等、RAW画像データ用画像処理パラメータを含む)に、基準画像決定部40Cが決定した基準画像データ及び置換領域算出部40Dが算出した置換領域を統合した付加情報を生成する。基本付加情報のRAW画像データ用画像処理パラメータは、例えば、通常RAWデータに備わる色情報など、置換領域に関わる補足としてのAF領域やレンズ情報を含んでおり、置換領域もそれらの情報を使って、複数レベルを記憶することが可能である。   The additional information generation unit 40H adds the reference image data determined by the reference image determination unit 40C and the replacement region calculated by the replacement region calculation unit 40D to basic additional information (for example, including image processing parameters for RAW image data such as Exif). Generate integrated additional information. The image processing parameters for RAW image data in the basic additional information include AF area and lens information as supplements related to the replacement area such as color information provided in normal RAW data, and the replacement area also uses the information. Multiple levels can be stored.

画像ファイル生成部40Iは、合成前複数フレーム画像統合部40Gからの合成前複数フレーム画像(4枚のRAW画像データ)及び付加情報生成部40からの付加情報を統合した特殊画像ファイルを生成する。   The image file generation unit 40I generates a special image file in which the pre-combination multi-frame images (four raw image data) from the pre-combination multi-frame image integration unit 40G and the additional information from the additional information generation unit 40 are integrated.

図7は、画像ファイル生成部40Iが生成した特殊画像ファイルのデータ構造を示す図である。この特殊画像ファイルは、図中の上方から下方に向かって順に、基本付加情報(例えばExif等)、基準画像フレーム指定情報(基準画像決定部40Cが決定した基準画像データを示す情報)、基準画像置換領域情報(置換領域算出部40Dが算出した置換領域を示す情報)、及び、合成前複数フレーム画像(4枚(n枚(nは正の整数))のRAW画像データ)を階層化して統合したデータ構造を有している。なお、特殊画像ファイルの階層化構造は図7に示したものに限定されず種々の設計変更が可能である。   FIG. 7 is a diagram illustrating a data structure of a special image file generated by the image file generation unit 40I. The special image file includes, in order from the top to the bottom in the figure, basic additional information (for example, Exif), reference image frame designation information (information indicating the reference image data determined by the reference image determination unit 40C), reference image The replacement area information (information indicating the replacement area calculated by the replacement area calculation unit 40D) and the pre-combination multiple frame images (raw image data of 4 frames (n (n is a positive integer))) are layered and integrated. Has a data structure. The hierarchical structure of the special image file is not limited to that shown in FIG. 7, and various design changes can be made.

画像ファイル保存部40Jは、合成置換画像生成部40Fが所定のファイル形式(例えばJPEG形式)で生成した合成置換画像データ、及び、画像ファイル生成部40Iが生成した特殊画像ファイル(図7)を対応付けて保存する。   The image file storage unit 40J corresponds to the combined replacement image data generated by the combined replacement image generation unit 40F in a predetermined file format (for example, JPEG format) and the special image file (FIG. 7) generated by the image file generation unit 40I. Add and save.

画像ファイル保存部40Jに保存された合成置換画像データと特殊画像ファイルの各出力の有無は、以下に示す4つの出力モード1〜出力モード4のいずれかに設定される。デジタルカメラ10は、これら4つの出力モード1〜出力モード4のいずれかを選択的に設定するRRS撮影モード設定部(出力設定部)28(図1)を有している。
出力モード1:合成置換画像データと特殊画像ファイルの双方を出力する。
出力モード2:合成置換画像データと特殊画像ファイルの双方を出力しない。
出力モード3:合成置換画像データを出力し特殊画像ファイルを出力しない。
出力モード4:特殊画像ファイルを出力し合成置換画像データを出力しない。
The presence / absence of each output of the composite replacement image data and the special image file stored in the image file storage unit 40J is set to one of the following four output modes 1 to 4. The digital camera 10 includes an RRS shooting mode setting unit (output setting unit) 28 (FIG. 1) that selectively sets any one of these four output modes 1 to 4.
Output mode 1: Output both the composite replacement image data and the special image file.
Output mode 2: Neither composite replacement image data nor special image file is output.
Output mode 3: Outputs composite replacement image data and does not output a special image file.
Output mode 4: A special image file is output and composite replacement image data is not output.

図8のフローチャートを参照して、本実施形態のデジタルカメラ10によるRRS撮影処理を説明する。この撮影処理は、DSP(画像ファイル生成装置)40のコンピュータに所定のプログラムを実行させることにより実現される。   With reference to the flowchart of FIG. 8, the RRS imaging process by the digital camera 10 of the present embodiment will be described. This photographing process is realized by causing a computer of a DSP (image file generation device) 40 to execute a predetermined program.

ステップS1では、イメージセンサ22が4枚(複数枚)のRAW画像データを取得してこれが画像入力部40Aに入力される。   In step S1, the image sensor 22 acquires four (a plurality of) RAW image data and inputs them to the image input unit 40A.

ステップS2では、画像合成部40Bが、画像入力部40Aに入力した4枚のRAW画像データを合成して合成画像データを得る。   In step S2, the image composition unit 40B combines the four pieces of RAW image data input to the image input unit 40A to obtain composite image data.

ステップS3では、基準画像決定部40Cが、画像入力部40Aに入力した4枚のRAW画像データの中から1枚を選択してこれを基準画像データに決定する。   In step S3, the reference image determination unit 40C selects one of the four pieces of RAW image data input to the image input unit 40A and determines this as reference image data.

ステップS4では、置換領域算出部40Dが、画像合成部40Bによる合成画像データの少なくとも一部を基準画像決定部40Cが決定した基準画像データで置換するための置換領域を算出する。   In step S4, the replacement region calculation unit 40D calculates a replacement region for replacing at least part of the composite image data by the image composition unit 40B with the reference image data determined by the reference image determination unit 40C.

ステップS5では、基準画像置換部40Eが、置換領域算出部40Dが算出した置換領域に従って、画像合成部40Bによる合成画像データを、基準画像決定部40Cが決定した基準画像データで置換する。また合成置換画像生成部40Fが、基準画像置換部40Eが置換した合成置換画像データを所定のファイル形式(例えばJPEG形式)で生成する。   In step S5, the reference image replacement unit 40E replaces the composite image data by the image composition unit 40B with the reference image data determined by the reference image determination unit 40C in accordance with the replacement region calculated by the replacement region calculation unit 40D. Further, the composite replacement image generation unit 40F generates composite replacement image data replaced by the reference image replacement unit 40E in a predetermined file format (for example, JPEG format).

ステップS6では、画像ファイル保存部40Jが、合成置換画像生成部40Fが所定のファイル形式(例えばJPEG形式)で生成した合成置換画像データを保存する。   In step S6, the image file storage unit 40J stores the composite replacement image data generated by the composite replacement image generation unit 40F in a predetermined file format (for example, JPEG format).

ステップS7では、DSP40が、特殊画像ファイルの保存設定がされているか否か、すなわちRRS撮影モード設定部(出力設定部)28による出力モードが上述した出力モード1または出力モード4に設定されているか否かを判定する。DSP40は、特殊画像ファイルの保存設定がされていない場合(ステップS7:NO)には処理を終了し、特殊画像ファイルの保存設定がされている場合(ステップS7:YES)にはステップS8に進む。   In step S7, whether the DSP 40 is set to save the special image file, that is, whether the output mode by the RRS shooting mode setting unit (output setting unit) 28 is set to the output mode 1 or the output mode 4 described above. Determine whether or not. The DSP 40 ends the process when the special image file storage setting is not set (step S7: NO), and proceeds to step S8 when the special image file storage setting is set (step S7: YES). .

ステップS8では、付加情報生成部40Hが、基本付加情報(例えばExif等)に、基準画像決定部40Cが決定した基準画像データ及び置換領域算出部40Dが算出した置換領域を統合した付加情報(基準画像置換用付加情報)を生成する。   In step S8, the additional information generating unit 40H integrates the basic additional information (for example, Exif) and the additional information (reference data) obtained by integrating the reference image data determined by the reference image determination unit 40C and the replacement area calculated by the replacement area calculation unit 40D. Image replacement additional information) is generated.

ステップS9では、合成前複数フレーム画像統合部40Gが、画像入力部40Aに入力した4枚のRAW画像データを合成前複数フレーム画像として統合する。   In step S9, the pre-combination multi-frame image integration unit 40G integrates the four raw image data input to the image input unit 40A as a pre-combination multi-frame image.

ステップS10では、画像ファイル生成部40Iが、合成前複数フレーム画像統合部40Gからの合成前複数フレーム画像(4枚のRAW画像データ)及び付加情報生成部40からの付加情報を統合した特殊画像ファイル(図7)を生成する。   In step S10, the image file generation unit 40I integrates the pre-combination multi-frame images (four raw image data) from the pre-combination multi-frame image integration unit 40G and the additional information from the additional information generation unit 40. (FIG. 7) is generated.

ステップS11では、画像ファイル保存部40Jが、画像ファイル生成部40Iが生成した特殊画像ファイルを保存する。   In step S11, the image file storage unit 40J stores the special image file generated by the image file generation unit 40I.

図9は、本実施形態のデジタルカメラ10が出力した特殊画像ファイル(図7)を画像処理する外部アプリケーションとしての画像ファイル処理装置70を示す機能ブロック図である。   FIG. 9 is a functional block diagram showing an image file processing apparatus 70 as an external application that performs image processing on the special image file (FIG. 7) output from the digital camera 10 of the present embodiment.

画像ファイル処理装置70は、特殊画像ファイル入力部71と、パラメータ改変部72と、画像合成部73と、画像置換部74とを有している。   The image file processing device 70 includes a special image file input unit 71, a parameter modification unit 72, an image composition unit 73, and an image replacement unit 74.

特殊画像ファイル入力部71は、デジタルカメラ10が出力した特殊画像ファイル(図7)が入力されるものである。画像ファイル処理装置70に入力した画像ファイルは、例えばそのヘッダ情報によって、通常画像ファイルであるのか、特殊画像ファイルであるのかが判別され、特殊画像ファイルだけが特殊画像ファイル入力部71に入出力される。特殊画像ファイル入力部71に入力した特殊画像ファイルは個々のファイル構成要素に分解される。   The special image file input unit 71 receives a special image file (FIG. 7) output from the digital camera 10. For example, the image file input to the image file processing apparatus 70 is discriminated whether it is a normal image file or a special image file based on its header information, and only the special image file is input / output to / from the special image file input unit 71. The The special image file input to the special image file input unit 71 is decomposed into individual file components.

パラメータ改変部72は、特殊画像ファイル入力部71に入力した特殊画像ファイル(図7)のうち、基本付加情報(RAW画像データ用画像処理パラメータを含む)、基準画像フレーム指定情報(基準画像決定部40Cが決定した基準画像データを示す情報)、基準画像置換領域情報(置換領域算出部40Dが算出した置換領域を示す情報)、及び、合成前複数フレーム画像(4枚(n枚(nは正の整数))のRAW画像データ)の少なくとも一部を選択してこれに改変を加えることができる。   The parameter modification unit 72 includes basic additional information (including image processing parameters for RAW image data), reference image frame designation information (reference image determination unit) in the special image file (FIG. 7) input to the special image file input unit 71. Information indicating the reference image data determined by 40C), reference image replacement area information (information indicating the replacement area calculated by the replacement area calculation unit 40D), and a plurality of pre-composite frame images (n frames (n is a positive value) It is possible to select at least a part of the RAW image data) and to modify it.

画像合成部73は、パラメータ改変部72による改変の有無を受けて、パラメータ改変部72による複数の画像データを合成し、パラメータ改変部72によるRAW画像データ用画像処理パラメータにより画像処理を行って、合成画像データを得る。   The image composition unit 73 receives the presence / absence of modification by the parameter modification unit 72, composes a plurality of image data by the parameter modification unit 72, performs image processing using the image processing parameters for RAW image data by the parameter modification unit 72, Obtain composite image data.

画像置換部74は、パラメータ改変部72による改変の有無を受けて、画像合成部73による合成画像データの少なくとも一部を、パラメータ改変部72による置換領域に従って、パラメータ改変部72による基準画像データで置換する。   The image replacement unit 74 receives the presence / absence of modification by the parameter modification unit 72, and uses at least part of the composite image data by the image composition unit 73 as reference image data by the parameter modification unit 72 according to the replacement region by the parameter modification unit 72. Replace.

以上のように、本実施形態の撮影システム(画像処理システム)によれば、画像ファイル生成部40Iが複数の画像並びに基準画像及び置換領域を示す情報を含む特殊画像ファイル(図7)を生成するので、その後の画像合成処理において重複する演算を行う必要が無い(演算を省略できる)。このため、処理時間を短くし、CPU資源の無駄を小さくして、装置の構成を簡単化することができる。   As described above, according to the imaging system (image processing system) of the present embodiment, the image file generation unit 40I generates a special image file (FIG. 7) including information indicating a plurality of images, a reference image, and a replacement area. Therefore, there is no need to perform overlapping calculations in subsequent image composition processing (the calculations can be omitted). Therefore, the processing time can be shortened, waste of CPU resources can be reduced, and the configuration of the apparatus can be simplified.

また、外部アプリケーションである画像ファイル処理装置70によって、画像ファイル中の複数の画像並びに基準画像及び置換領域を示す情報の少なくとも一部に改変を加えることで、撮影者の撮影趣向に柔軟に対応したオリジナルの合成画像を得ることができる。デジタルカメラ10内のCPUで実行可能な処理には自ずと限界があるので、デジタルカメラ10内で各種のパラメータを改変することは現実的ではない。この点、複数の画像並びに基準画像及び置換領域を示す情報を含む特殊画像ファイル(図7)を外部アプリケーションで改変可能な態様で出力できる本実施形態は極めて有用である。   In addition, the image file processing apparatus 70, which is an external application, can flexibly cope with the photographing preference of the photographer by modifying at least part of the information indicating the plurality of images and the reference image and the replacement area in the image file. An original composite image can be obtained. Since processing that can be executed by the CPU in the digital camera 10 is naturally limited, it is not realistic to modify various parameters in the digital camera 10. In this respect, the present embodiment that can output a special image file (FIG. 7) including information indicating a plurality of images, a reference image, and a replacement area in a form that can be modified by an external application is extremely useful.

以上の実施形態では、RRS撮影モードにおいて、イメージセンサ22を光軸直交平面内で1画素ピッチの正方形を描くように駆動しながら撮影した4枚の画像を「複数の画像」とした場合を例示して説明した。しかし、イメージセンサ22の駆動軌跡及び駆動ピッチ並びに「複数の画像」の枚数には自由度があり、種々の設計変更が可能である。またイメージセンサ22を駆動する方向は、撮影光学系の光軸と直交する平面内に限定されず、撮影光学系の光軸と異なる方向であればよい。さらに「複数の画像」は、RRS撮影モードで撮影(取得)したものに限定されず、同一の被写体について撮影条件を変えながら連続的に撮影したものであればよい(例えばHDR撮影)。   In the above embodiment, in the RRS imaging mode, a case where four images captured while driving the image sensor 22 so as to draw a square of one pixel pitch in the plane orthogonal to the optical axis is set as “a plurality of images” is illustrated. Explained. However, the drive trajectory and drive pitch of the image sensor 22 and the number of “plural images” have a degree of freedom, and various design changes are possible. The direction in which the image sensor 22 is driven is not limited to a plane orthogonal to the optical axis of the photographic optical system, and may be any direction different from the optical axis of the photographic optical system. Further, the “plurality of images” are not limited to those captured (acquired) in the RRS imaging mode, and may be any images continuously captured while changing the imaging conditions for the same subject (for example, HDR imaging).

以上の実施形態では、イメージセンサ22を「移動部材」として、このイメージセンサ22を光軸直交平面内で駆動する態様を例示して説明したが、本発明はこれに限定されるものではない。例えば、撮影レンズ群(撮影光学系)31の少なくとも一部をなす光学要素を「移動部材」として、この光学要素を撮影レンズ30内に設けたボイスコイルモータによって光軸直交平面内で駆動する態様も可能である。あるいは、イメージセンサ22と撮影レンズ群(撮影光学系)31の少なくとも一部をなす光学要素の双方を「移動部材」として、これらを光軸直交平面内で駆動する態様も可能である。   In the above embodiment, the image sensor 22 is assumed to be the “moving member” and the image sensor 22 is driven in the plane orthogonal to the optical axis. However, the present invention is not limited to this. For example, an optical element that forms at least a part of the photographing lens group (photographing optical system) 31 is a “moving member”, and this optical element is driven in a plane orthogonal to the optical axis by a voice coil motor provided in the photographing lens 30. Is also possible. Alternatively, it is also possible to adopt a mode in which both the image sensor 22 and the optical elements constituting at least a part of the photographing lens group (photographic optical system) 31 are “moving members” and are driven in a plane orthogonal to the optical axis.

以上の実施形態では、DSP40とイメージセンサ駆動回路60を別々の構成要素(ブロック)として描いているが、これらを単一の構成要素(ブロック)として実現する態様も可能である。   In the above embodiment, the DSP 40 and the image sensor drive circuit 60 are drawn as separate components (blocks), but an aspect in which these are realized as a single component (block) is also possible.

以上の実施形態では、像振れ補正装置50の構成として、固定支持基板51に磁石M1、M2、M3及びヨークY1、Y2、Y3を固定し、可動ステージ52に駆動用コイルC1、C2、C3を固定した場合を例示して説明したが、この位置関係を逆にして、可動ステージに磁石及びヨークを固定し、固定支持基板に駆動用コイルを固定する態様も可能である。   In the above embodiment, the image shake correction apparatus 50 is configured such that the magnets M1, M2, and M3 and the yokes Y1, Y2, and Y3 are fixed to the fixed support substrate 51, and the driving coils C1, C2, and C3 are connected to the movable stage 52. The case of fixing is described by way of example, but it is also possible to reverse the positional relationship, fix the magnet and the yoke to the movable stage, and fix the driving coil to the fixed support substrate.

以上の実施形態では、ボディ本体20と撮影レンズ30を着脱可能(レンズ交換可能)とする態様を例示して説明したが、ボディ本体20と撮影レンズ30を着脱不能(レンズ交換不能)とする態様も可能である。   In the above embodiment, the mode in which the body main body 20 and the photographic lens 30 are detachable (lens exchangeable) has been described as an example, but the mode in which the body main body 20 and the photographic lens 30 are detachable (lens exchangeable) is not possible. Is also possible.

10 デジタルカメラ(撮影装置)
20 ボディ本体
21 シャッタ(撮影光学系)
22 イメージセンサ(画像取得部、移動部材、振れ補正部材)
R G(Gr、Gb) B カラーフィルタ
23 絞り/シャッタ駆動回路
24 LCD
25 画像メモリ
26 撮影操作スイッチ
27 ジャイロセンサ(振れ検出部)
28 RRS撮影モード設定部(出力設定部)
30 撮影レンズ
31 撮影レンズ群(撮影光学系、移動部材、振れ補正部材)
32 絞り(撮影光学系)
33 通信用メモリ
40 DSP(画像ファイル生成装置)
40A 画像入力部
40B 画像合成部
40C 基準画像決定部
40D 置換領域算出部(基準画像置換領域算定部)
40E 基準画像置換部
40F 合成置換画像生成部(合成処理済画像ファイル生成部)
40G 合成前複数フレーム画像統合部
40H 付加情報生成部
40I 画像ファイル生成部(合成前複数フレーム画像ファイル生成部)
40J 画像ファイル保存部
50 像振れ補正装置
51 固定支持基板
52 可動ステージ
M1 M2 M3 磁石
Y1 Y2 Y3 ヨーク
C1 C2 C3 駆動用コイル
H1 H2 H3 ホールセンサ(位置検出部)
60 イメージセンサ駆動回路
70 画像ファイル処理装置(外部アプリケーション)
71 特殊画像ファイル入力部
72 パラメータ改変部
73 画像合成部
74 画像置換部
10 Digital camera (photographing device)
20 Body body 21 Shutter (shooting optical system)
22 Image sensor (image acquisition unit, moving member, shake correction member)
RG (Gr, Gb) B Color filter 23 Aperture / shutter drive circuit 24 LCD
25 Image memory 26 Shooting operation switch 27 Gyro sensor (shake detection unit)
28 RRS shooting mode setting section (output setting section)
30 Shooting lens 31 Shooting lens group (shooting optical system, moving member, shake correction member)
32 Aperture (Optical system)
33 Communication Memory 40 DSP (Image File Generation Device)
40A Image input unit 40B Image composition unit 40C Reference image determination unit 40D Replacement region calculation unit (reference image replacement region calculation unit)
40E Reference image replacement unit 40F Composite replacement image generation unit (composited image file generation unit)
40G pre-combination multiple frame image integration unit 40H additional information generation unit 40I image file generation unit (pre-combination multi-frame image file generation unit)
40J Image file storage unit 50 Image shake correction device 51 Fixed support substrate 52 Movable stage M1 M2 M3 Magnet Y1 Y2 Y3 Yoke C1 C2 C3 Driving coil H1 H2 H3 Hall sensor (position detection unit)
60 Image sensor driving circuit 70 Image file processing apparatus (external application)
71 Special image file input unit 72 Parameter modification unit 73 Image composition unit 74 Image replacement unit

Claims (8)

複数の画像を取得する画像取得部と、
前記複数の画像の中から基準画像を決定する基準画像決定部と、
前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、
前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、
を有することを特徴とする撮影装置。
An image acquisition unit for acquiring a plurality of images;
A reference image determination unit for determining a reference image from the plurality of images;
A replacement area calculation unit for calculating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image;
An image file generation unit for generating an image file including information indicating the plurality of images and the reference image and the replacement area;
A photographing apparatus comprising:
請求項1記載の撮影装置において、
前記置換領域を示す情報に従って前記合成画像を前記基準画像で置換した合成置換画像を生成する合成置換画像生成部をさらに有する撮影装置。
The imaging device according to claim 1,
An imaging apparatus further comprising a combined replacement image generation unit configured to generate a combined replacement image in which the combined image is replaced with the reference image in accordance with information indicating the replacement area.
請求項2記載の撮影装置において、
前記画像ファイルと前記合成置換画像の各出力の有無を設定する出力設定部をさらに有する撮影装置。
The imaging device according to claim 2,
An imaging apparatus further comprising an output setting unit configured to set whether to output each of the image file and the composite replacement image.
請求項1ないし3のいずれか1項記載の撮影装置において、
前記複数の画像は、同一の被写体について撮影条件を変えながら連続的に撮影したものである撮影装置。
In the imaging device according to any one of claims 1 to 3,
The plurality of images is a photographing device in which the same subject is continuously photographed while changing photographing conditions.
請求項1ないし4のいずれか1項記載の撮影装置において、
前記複数の画像は、撮影光学系により形成された被写体像を電気的な画素信号に変換するイメージセンサにより撮影したものであり、且つ、前記撮影光学系の少なくとも一部をなす光学要素と前記イメージセンサの少なくとも一方を移動部材とし、この移動部材を前記撮影光学系の光軸と異なる方向に移動させながら、各移動後の被写体光束を前記イメージセンサの検出色の異なる複数の画素に入射させて撮影したものである撮影装置。
The photographing apparatus according to any one of claims 1 to 4,
The plurality of images are images taken by an image sensor that converts an object image formed by a photographing optical system into an electrical pixel signal, and the optical element that forms at least a part of the photographing optical system and the image Using at least one of the sensors as a moving member and moving the moving member in a direction different from the optical axis of the photographing optical system, the subject light flux after each movement is incident on a plurality of pixels having different detection colors of the image sensor. A photographic device that was taken.
複数の画像が入力する画像入力部と、
前記複数の画像の中から基準画像を決定する基準画像決定部と、
前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、
前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、
を有することを特徴とする画像ファイル生成装置。
An image input unit for inputting a plurality of images;
A reference image determination unit for determining a reference image from the plurality of images;
A replacement area calculation unit for calculating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image;
An image file generation unit for generating an image file including information indicating the plurality of images and the reference image and the replacement area;
An image file generation device characterized by comprising:
複数の画像と、前記複数の画像の中から決定した基準画像を示す情報と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を示す情報と、を有する画像ファイルが入力する画像ファイル入力部と、
前記画像ファイル中の前記複数の画像並びに前記基準画像及び前記置換領域を示す情報の少なくとも一部を選択してこれに改変を加えることができるパラメータ改変部と、
前記パラメータ改変部による改変の有無を受けて、前記パラメータ改変部による複数の画像を合成して合成画像を得る画像合成部と、
前記パラメータ改変部による改変の有無を受けて、前記合成画像の少なくとも一部を、前記パラメータ改変部による置換領域に従って、前記パラメータ改変部による基準画像で置換する画像置換部と、
を有することを特徴とする画像ファイル処理装置。
A plurality of images, information indicating a reference image determined from the plurality of images, information indicating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image, An image file input unit for inputting an image file having
A parameter modifying unit capable of selecting and modifying at least part of information indicating the plurality of images and the reference image and the replacement area in the image file;
In response to the presence or absence of modification by the parameter modification unit, an image composition unit that combines a plurality of images by the parameter modification unit to obtain a composite image;
In response to the presence or absence of modification by the parameter modification unit, an image replacement unit that replaces at least a part of the composite image with a reference image by the parameter modification unit according to a replacement region by the parameter modification unit;
An image file processing apparatus comprising:
複数の画像の中から基準画像を決定する基準画像決定ステップと、
前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出ステップと、
前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成ステップと、
をコンピュータに実行させることを特徴とするプログラム。
A reference image determining step for determining a reference image from a plurality of images;
A replacement area calculating step of calculating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image;
An image file generating step for generating an image file including information indicating the plurality of images and the reference image and the replacement area;
A program that causes a computer to execute.
JP2015098935A 2015-05-14 2015-05-14 Imaging device, image file generation device, image file processing device, and program Active JP6485204B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015098935A JP6485204B2 (en) 2015-05-14 2015-05-14 Imaging device, image file generation device, image file processing device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015098935A JP6485204B2 (en) 2015-05-14 2015-05-14 Imaging device, image file generation device, image file processing device, and program

Publications (2)

Publication Number Publication Date
JP2016219861A JP2016219861A (en) 2016-12-22
JP6485204B2 true JP6485204B2 (en) 2019-03-20

Family

ID=57581561

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015098935A Active JP6485204B2 (en) 2015-05-14 2015-05-14 Imaging device, image file generation device, image file processing device, and program

Country Status (1)

Country Link
JP (1) JP6485204B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4624604B2 (en) * 2001-07-10 2011-02-02 オリンパス株式会社 Image acquisition device
JP4788488B2 (en) * 2006-06-16 2011-10-05 ソニー株式会社 Image processing apparatus, image processing method, program for image processing method, and recording medium recording program for image processing method
JP2010034964A (en) * 2008-07-30 2010-02-12 Sharp Corp Image composition apparatus, image composition method and image composition program
JP5365823B2 (en) * 2011-10-14 2013-12-11 株式会社モルフォ Image composition apparatus, image composition method, image composition program, and recording medium

Also Published As

Publication number Publication date
JP2016219861A (en) 2016-12-22

Similar Documents

Publication Publication Date Title
JP6508311B2 (en) Photographing apparatus, photographing module, photographing method and photographing program
JP6492960B2 (en) Image capturing apparatus, image capturing method, image processing apparatus, image processing method, and program
US10129479B2 (en) Photographing apparatus and photographing method with optical low-pass filter effect
JP6260614B2 (en) Imaging apparatus and imaging control system
US20160366340A1 (en) Photographing apparatus, photographing controller, photographing control method, and photographing control program
JP6299742B2 (en) Imaging device
US9871964B2 (en) Photographing apparatus, photographing controller, photographing control method, and photographing control program
JP5525109B2 (en) Imaging device
JP5507761B2 (en) Imaging device
JP6350538B2 (en) Imaging apparatus and control method thereof
JP2020010140A (en) Imaging apparatus and display method
JP6330817B2 (en) Imaging apparatus, imaging method, imaging apparatus control apparatus, and imaging apparatus control method
JP6485204B2 (en) Imaging device, image file generation device, image file processing device, and program
JP6500618B2 (en) Imaging apparatus and imaging method
JP6500384B2 (en) Imaging apparatus, imaging method and program
JP6500617B2 (en) Imaging apparatus and imaging method
JP2017146362A (en) Photographing device, photographing method, and photographing program
WO2015060077A1 (en) Motion video capture device and motion video capture method
JP2024022636A (en) Image sensor
JP6586732B2 (en) Movie shooting apparatus and movie shooting method
JP2016212178A (en) Image processing apparatus, control method of the same, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190204

R150 Certificate of patent or registration of utility model

Ref document number: 6485204

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250