JP6485204B2 - Imaging device, image file generation device, image file processing device, and program - Google Patents
Imaging device, image file generation device, image file processing device, and program Download PDFInfo
- Publication number
- JP6485204B2 JP6485204B2 JP2015098935A JP2015098935A JP6485204B2 JP 6485204 B2 JP6485204 B2 JP 6485204B2 JP 2015098935 A JP2015098935 A JP 2015098935A JP 2015098935 A JP2015098935 A JP 2015098935A JP 6485204 B2 JP6485204 B2 JP 6485204B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- unit
- replacement
- reference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 35
- 238000003384 imaging method Methods 0.000 title claims description 22
- 239000002131 composite material Substances 0.000 claims description 48
- 230000003287 optical effect Effects 0.000 claims description 40
- 238000012986 modification Methods 0.000 claims description 22
- 230000004048 modification Effects 0.000 claims description 22
- 239000000203 mixture Substances 0.000 claims description 19
- 238000001514 detection method Methods 0.000 claims description 10
- 239000003086 colorant Substances 0.000 claims description 4
- 230000004907 flux Effects 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 3
- 238000012937 correction Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 239000000758 substrate Substances 0.000 description 9
- 230000010354 integration Effects 0.000 description 6
- 238000000034 method Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000015572 biosynthetic process Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000000696 magnetic material Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Description
本発明は、撮影装置、画像ファイル生成装置、画像ファイル処理装置及びプログラムに関する。 The present invention, imaging apparatus, an image file generation device, an image file processing equipment and programs.
特許文献1には、複数の撮像デバイスのばらつきによる画質劣化を低減するとともに、高速に高解像度画像を合成することを目的とした画像合成装置が開示されている。 Japanese Patent Application Laid-Open No. 2004-151561 discloses an image composition device that aims to reduce image quality deterioration due to variations in a plurality of imaging devices and to synthesize a high-resolution image at high speed.
この画像合成装置は、複数の画像データを合成することにより合成画像データを生成し、複数の画像データのうちの1つを基準画像データとして選択し、合成画像データと基準画像データのそれぞれに対して分割領域の画質を比較して合成画像データの画質が向上している分割領域が含まれている合成処理範囲を選択し、合成処理範囲の合成画像データに対して合成処理範囲外の基準画像データを合成することにより高解像度化画像を生成するものである。 The image composition device generates composite image data by combining a plurality of image data, selects one of the plurality of image data as reference image data, and each of the composite image data and the reference image data Compare the image quality of the divided areas, select the composite processing range that includes the divided areas where the image quality of the composite image data is improved, and select the reference image outside the composite processing range for the composite image data in the composite processing range A high resolution image is generated by combining the data.
しかしながら、特許文献1の画像合成装置は、画像合成を行う度に、基準画像データの選択と合成処理範囲の選択を繰り返すことが必須である。このため、画像合成処理の重複が生じて、処理時間が長くなる、CPU資源の無駄が大きくなるといった問題がある。 However, it is essential for the image synthesizing apparatus disclosed in Patent Document 1 to repeat selection of the reference image data and selection of the synthesis processing range each time image synthesis is performed. For this reason, there is a problem in that duplication of image synthesis processing occurs, processing time becomes long, and CPU resources are wasted.
また、近年では、カメラの高機能化や多機能化に伴って、非常に多岐に亘る撮影者の撮影趣向が存在するようになっている。例えば、複数の画像データ、基準画像データ、合成処理範囲等の各種パラメータに微妙な改変を加えたオリジナルの合成画像を得たいという撮影者の撮影趣向が存在する。この点、特許文献1の画像合成装置は、一律的かつ機械的な処理フローで画像合成を行っているので、このような撮影者の撮影趣向に柔軟に対応することができない。 In recent years, as the functions of cameras have become higher and more multifunctional, there have been a wide variety of shooting preferences for photographers. For example, there is a photographing preference of a photographer who wants to obtain an original composite image in which various parameters such as a plurality of image data, reference image data, and a composition processing range are slightly modified. In this regard, since the image composition apparatus of Patent Document 1 performs image composition in a uniform and mechanical processing flow, it cannot flexibly cope with such photographing preferences of photographers.
本発明は、以上の問題意識に基づいてなされたものであり、簡単な構成で、撮影者の撮影趣向に柔軟に対応することができる撮影装置、画像ファイル生成装置、画像ファイル処理装置及びプログラムを得ることを目的とする。 The present invention, these problems are those conscious was made based on a simple configuration, the photographing apparatus which can flexibly respond to shooting preference of the photographer, an image file generation device, image file processing equipment and flop The purpose is to obtain a program.
本発明の撮影装置は、複数の画像を取得する画像取得部と、前記複数の画像の中から基準画像を決定する基準画像決定部と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、を有することを特徴としている。 An imaging apparatus according to the present invention includes an image acquisition unit that acquires a plurality of images, a reference image determination unit that determines a reference image from the plurality of images, and at least a part of a composite image obtained by combining the plurality of images. A replacement region calculation unit that calculates a replacement region for replacement with the reference image; and an image file generation unit that generates an image file including information indicating the plurality of images and the reference image and the replacement region. It is characterized by.
本発明の撮影装置は、前記置換領域を示す情報に従って前記合成画像を前記基準画像で置換した合成置換画像を生成する合成置換画像生成部をさらに有することができる。 The imaging apparatus of the present invention may further include a composite replacement image generation unit that generates a composite replacement image obtained by replacing the composite image with the reference image in accordance with information indicating the replacement region.
本発明の撮影装置は、前記画像ファイルと前記合成置換画像の各出力の有無を設定する出力設定部をさらに有することができる。 The photographing apparatus of the present invention may further include an output setting unit that sets whether to output each of the image file and the composite replacement image.
前記複数の画像は、同一の被写体について撮影条件を変えながら連続的に撮影したものとすることができる。 The plurality of images may be taken continuously while changing the shooting conditions for the same subject.
前記複数の画像は、撮影光学系により形成された被写体像を電気的な画素信号に変換するイメージセンサにより撮影したものであり、且つ、前記撮影光学系の少なくとも一部をなす光学要素と前記イメージセンサの少なくとも一方を移動部材とし、この移動部材を前記撮影光学系の光軸と異なる方向に移動させながら、各移動後の被写体光束を前記イメージセンサの検出色の異なる複数の画素に入射させて撮影したものとすることができる。 The plurality of images are images taken by an image sensor that converts an object image formed by a photographing optical system into an electrical pixel signal, and the optical element that forms at least a part of the photographing optical system and the image Using at least one of the sensors as a moving member and moving the moving member in a direction different from the optical axis of the photographing optical system, the subject light flux after each movement is incident on a plurality of pixels having different detection colors of the image sensor. It can be taken.
本発明の画像ファイル生成装置は、複数の画像が入力する画像入力部と、前記複数の画像の中から基準画像を決定する基準画像決定部と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、を有することを特徴としている。 An image file generation device according to the present invention includes at least one of an image input unit that inputs a plurality of images, a reference image determination unit that determines a reference image from the plurality of images, and a composite image obtained by combining the plurality of images. A replacement region calculation unit that calculates a replacement region for replacing a part with the reference image, and an image file generation unit that generates an image file including information indicating the plurality of images and the reference image and the replacement region. It is characterized by having.
本発明の画像ファイル処理装置は、複数の画像と、前記複数の画像の中から決定した基準画像を示す情報と、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を示す情報と、を有する画像ファイルが入力する画像ファイル入力部と、前記画像ファイル中の前記複数の画像並びに前記基準画像及び前記置換領域を示す情報の少なくとも一部を選択してこれに改変を加えることができるパラメータ改変部と、前記パラメータ改変部による改変の有無を受けて、前記パラメータ改変部による複数の画像を合成して合成画像を得る画像合成部と、前記パラメータ改変部による改変の有無を受けて、前記合成画像の少なくとも一部を、前記パラメータ改変部による置換領域に従って、前記パラメータ改変部による基準画像で置換する画像置換部と、を有することを特徴としている。 The image file processing apparatus of the present invention replaces at least a part of a plurality of images, information indicating a reference image determined from the plurality of images, and a composite image obtained by combining the plurality of images with the reference image. An image file input unit for inputting an image file having information for indicating a replacement area, and at least a part of the plurality of images in the image file and the information indicating the reference image and the replacement area A parameter modifying unit that can modify the image, an image combining unit that receives a presence or absence of modification by the parameter modifying unit, synthesizes a plurality of images by the parameter modifying unit, and obtains a composite image; and the parameter modifying unit In response to the presence / absence of modification by the parameter modification unit, at least a part of the composite image is changed according to the replacement region by the parameter modification unit. It is characterized by having an image replacing unit for replacing the reference image with the.
本発明のプログラムは、複数の画像の中から基準画像を決定する基準画像決定ステップと、前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出ステップと、前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成ステップと、をコンピュータに実行させることを特徴としている。 The program of the present invention calculates a reference image determining step for determining a reference image from among a plurality of images, and a replacement area for replacing at least a part of a composite image obtained by combining the plurality of images with the reference image. A replacement area calculation step and an image file generation step for generating an image file including information indicating the plurality of images, the reference image, and the replacement area are executed by a computer.
本発明によれば、簡単な構成で、撮影者の撮影趣向に柔軟に対応することができる撮影装置、画像ファイル生成装置、画像ファイル処理装置及びプログラムが得られる。 According to the present invention, with a simple configuration, the photographing apparatus which can flexibly respond to shooting preference of the photographer, an image file generation device, image file processing equipment and programs can be obtained.
図1〜図9を参照して、本実施形態による撮影システム(画像処理システム)について説明する。 The imaging system (image processing system) according to the present embodiment will be described with reference to FIGS.
図1は、デジタルカメラ(撮影装置)10の要部構成を示すブロック図である。デジタルカメラ10は、ボディ本体20と、このボディ本体20に着脱可能(レンズ交換可能)な撮影レンズ30とを備えている。撮影レンズ30は、被写体側(図1中の左側)から像面側(図1中の右側)に向かって順に、撮影レンズ群(撮影光学系、移動部材、振れ補正部材)31と、絞り(撮影光学系)32とを備えている。ボディ本体20は、被写体側(図1中の左側)から像面側(図1中の右側)に向かって順に、シャッタ(撮影光学系)21と、イメージセンサ(画像取得部、移動部材、振れ補正部材)22とを備えている。またボディ本体20は、撮影レンズ30への装着状態で絞り32とシャッタ21を駆動制御する絞り/シャッタ駆動回路23を備えている。撮影レンズ群31から入射し、絞り32とシャッタ21を通った被写体光束による被写体像が、イメージセンサ22の受光面上に形成される。イメージセンサ22の受光面上に形成された被写体像は、マトリックス状に配置された検出色の異なる多数の画素によって、電気的な画素信号に変換され、画像データ(後述する複数のRAW画像データ)としてDSP(画像ファイル生成装置)40に出力される。DSP40は、イメージセンサ22から入力した画像データに所定の画像処理を施して、これをLCD24に表示し、画像メモリ25に記憶する。なお、図1では、撮影レンズ群31が単レンズからなるように描いているが、実際の撮影レンズ群31は、例えば、固定レンズ、変倍時に移動する変倍レンズ、フォーカシング時に移動するフォーカシングレンズなどの複数枚のレンズを有している。
FIG. 1 is a block diagram showing a main configuration of a digital camera (photographing apparatus) 10. The
図示は省略しているが、イメージセンサ22は、パッケージと、このパッケージに収納される固体撮像素子チップと、この固体撮像素子チップを密封保護するようにパッケージに固定される蓋部材とを含む複数の構成要素からなる。本明細書において、「イメージセンサ22を駆動する」とは、「イメージセンサ22の複数の構成要素のうち被写体光束が通過する少なくとも一部を駆動する」ことを意味する。
Although not shown, the
撮影レンズ30は、撮影レンズ群31の解像力(MTF)情報や絞り32の開口径(絞り値)情報などの各種情報を記憶した通信用メモリ33を搭載している。撮影レンズ30をボディ本体20に装着した状態では、通信用メモリ33が記憶した各種情報がDSP40に読み込まれる。
The
ボディ本体20は、DSP40に接続させて、撮影操作スイッチ26を備えている。撮影操作スイッチ26は、電源スイッチやレリーズスイッチなどの各種スイッチからなる。
The body
ボディ本体20は、DSP40に接続させて、ジャイロセンサ(振れ検出部)27を備えている。ジャイロセンサ27は、ボディ本体20に加わる移動角速度(X軸とY軸周り)を検出することで、該ボディ本体20の光軸直交平面内の振れを示す振れ検出信号を検出する。
The
図1〜図3に示すように、イメージセンサ22は、撮影光学系の光軸Zと直交するX軸方向とY軸方向(直交二方向)に移動可能に像振れ補正装置50に搭載されている。像振れ補正装置50は、ボディ本体20のシャーシなどの構造物に固定される固定支持基板51と、イメージセンサ22を固定した、固定支持基板51に対してスライド可能な可動ステージ52と、固定支持基板51の可動ステージ52との対向面に固定した磁石M1、M2、M3と、固定支持基板51に可動ステージ52を挟んで各磁石M1、M2、M3と対向させて固定した、各磁石M1、M2、M3との間に磁気回路を構成する磁性体からなるヨークY1、Y2、Y3と、可動ステージ52に固定した、前記磁気回路の磁界内において電流を受けることにより駆動力を発生する駆動用コイルC1、C2、C3を有している。駆動用コイルC1、C2、C3に交流駆動信号(交流電圧)を流す(印加する)ことにより、固定支持基板51に対して可動ステージ52(イメージセンサ22)が光軸直交平面内で駆動するようになっている。駆動用コイルC1、C2、C3に流す交流駆動信号は、DSP40による制御の下、イメージセンサ駆動回路60によって生成される。
As shown in FIGS. 1 to 3, the
本実施形態では、磁石M1、ヨークY1及び駆動用コイルC1からなる磁気駆動手段と、磁石M2、ヨークY2及び駆動用コイルC2からなる磁気駆動手段(2組の磁気駆動手段)とがイメージセンサ22の長手方向(水平方向、X軸方向)に所定間隔で配置され、磁石M3、ヨークY3及び駆動用コイルC3からなる磁気駆動手段(1組の磁気駆動手段)がイメージセンサ22の長手方向と直交する短手方向(鉛直(垂直)方向、Y軸方向)に配置されている。
In the present embodiment, the
さらに固定支持基板51には、各駆動用コイルC1、C2、C3の近傍(中央空間部)に、磁石M1、M2、M3の磁力を検出して可動ステージ52(イメージセンサ22)の光軸直交平面内の位置を示すホール出力信号(位置検出信号)を出力(検出)するホールセンサ(位置検出部)H1、H2、H3が配置されている。ホールセンサH1、H2により可動ステージ52(イメージセンサ22)のY軸方向位置及び傾き(回転)が検出され、ホールセンサH3により可動ステージ52(イメージセンサ22)のX軸方向位置が検出される。DSP40は、イメージセンサ駆動回路60を介して、ジャイロセンサ27が検出したボディ本体20の光軸直交平面内の振れを示す振れ検出信号と、ホールセンサH1、H2、H3が出力したイメージセンサ22の光軸直交平面内の位置を示すホール出力信号とに基づいて、像振れ補正装置50によってイメージセンサ22を光軸直交平面内で駆動する。これにより、イメージセンサ22上への被写体像の結像位置を変位させて、手振れに起因する像振れを補正することができる。
Further, the fixed
本実施形態のデジタルカメラ10は、像振れ補正装置50を利用して、イメージセンサ22(イメージセンサユニット)を撮影光学系の光軸Zと直交する平面内で微細に移動させながら複数回の撮影を行い、その画像を1枚に合成(画像の単純な加算ではなくデータ上の画像処理による特殊演算を行っての合成)することで、超高精細(高画質、高精度)な画像を生成する撮影モードを搭載している。以下ではこの撮影モードを「RRS(リアル・レゾリューション・システム)撮影モード」と呼ぶ。「RRS撮影モード」では、1画素あたり1つの色情報のみを取得する従来のベイヤ方式と異なり、1画素毎にRGB各色の情報を得ることで、細部までのディティールや色再現に優れた極めて高精細な画像を描き出すことができる。また、モアレや偽色が発生することが無く、高感度ノイズを低減する効果が得られる。
The
図4(A)〜図4(D)は本実施形態の「RRS撮影モード」の一例を示す概念図である。同図において、イメージセンサ22は、受光面にマトリックス状に所定の画素ピッチで配置された多数の画素を備え、各画素の前面にベイヤ配列のカラーフィルタR、G(Gr、Gb)、Bのいずれかが配置されている。各画素は、前面のカラーフィルタR、G(Gr、Gb)、Bを透過して入射した被写体光線の色を検出、つまり、色成分(色帯域)の光を光電変換し、その強さ(輝度)に応じた電荷を蓄積する。より具体的に、図4(A)の基準位置で1枚の画像を撮影し、そこからイメージセンサ22を1画素ピッチだけ下方に移動させた図4(B)の位置で1枚の画像を撮影し、そこからイメージセンサ22を1画素ピッチだけ右方に移動させた図4(C)の位置で1枚の画像を撮影し、そこからイメージセンサ22を1画素ピッチだけ上方に移動させた図4(D)の位置で1枚の画像を撮影し、最後に図4(A)の基準位置に戻る。このように、イメージセンサ22を光軸直交平面内で1画素ピッチの正方形を描くように駆動しながら撮影した4枚の画像が、RAW画像データとして、DSP(画像ファイル生成装置)40に入力される。
FIG. 4A to FIG. 4D are conceptual diagrams illustrating an example of the “RRS imaging mode” of the present embodiment. In the figure, an
図5は、DSP(画像ファイル生成装置)40の内部構成を示す機能ブロック図である。このDSP40は、イメージセンサ22が「RRS撮影モード」で撮影(取得)した4枚(複数枚)のRAW画像データに対して各種の処理を施すものである。
FIG. 5 is a functional block diagram showing an internal configuration of the DSP (image file generation device) 40. The
DSP(画像ファイル生成装置)40は、画像入力部40Aと、画像合成部40Bと、基準画像決定部40Cと、置換領域算出部(基準画像置換領域算定部)40Dと、基準画像置換部40Eと、合成置換画像生成部(合成処理済画像ファイル生成部)40Fと、合成前複数フレーム画像統合部40Gと、付加情報生成部40Hと、画像ファイル生成部(合成前複数フレーム画像ファイル生成部)40Iと、画像ファイル保存部40Jとを有している。
The DSP (image file generation device) 40 includes an
画像入力部40Aは、イメージセンサ22からの4枚(複数枚)のRAW画像データが入力されるものである。
The
画像合成部40Bは、画像入力部40Aに入力した4枚のRAW画像データを合成して画像処理し、合成画像データを得る。
The
基準画像決定部40Cは、画像入力部40Aに入力した4枚のRAW画像データの中から1枚を選択してこれを基準画像データに決定する。例えば、基準画像決定部40Cは、イメージセンサ22が最初(1枚目)または最後(4枚目)に撮影したRAW画像データを基準画像データに決定する。
The reference
置換領域算出部40Dは、画像合成部40Bによる合成画像データの少なくとも一部を基準画像決定部40Cが決定した基準画像データで置換するための置換領域を算出する。置換領域算出部40Dは、画像合成部40Bによる合成画像データの品質が所定の水準を満足しているか否か、すなわち手振れや被写体の動き、蛍光灯のちらつき(フリッカー)の悪影響を受けているか否か等に基づいて、置換領域を算出する。
The replacement
より具体的に、置換領域算出部40Dは、基準画像データと他の合成前フレーム画像データとを画素ごとに比較することにより、置換領域を算出する。あるいは、置換領域算出部40Dは、各合成前フレーム画像データをブロック化し、基準画像データと他の合成前フレーム画像データとをブロックごとに比較することにより、置換領域を算出する。あるいは、置換領域算出部40Dは、輝度データや色差データにより差分情報を得て、この差分情報に基づいて、置換領域を算出する。あるいは、置換領域算出部40Dは、高周波成分の検出を行ってその高周波成分が閾値を超えているか否かを判定することにより、置換領域を算出する。このように、置換領域算出部40Dが置換領域を算出する態様には自由度があり、種々の設計変更が可能である。
More specifically, the replacement
図6は、置換領域算出部40Dが算出した合成画像データの基準画像置換領域と非置換領域の一例を示す図である。合成画像データの基準画像置換領域は、合成画像データの品質が所定の水準を満足しないために基準画像データでの置換が指定される領域であり、非置換領域は、合成画像データの該当部分をそのまま適用(使用)する領域である。
FIG. 6 is a diagram illustrating an example of the reference image replacement region and the non-replacement region of the composite image data calculated by the replacement
基準画像置換部40Eは、置換領域算出部40Dが算出した置換領域(図6)に従って、画像合成部40Bによる合成画像データを、基準画像決定部40Cが決定した基準画像データで置換する。
The reference image replacement unit 40E replaces the composite image data obtained by the
合成置換画像生成部40Fは、基準画像置換部40Eが置換した合成置換画像データを所定のファイル形式(例えばJPEG形式)で生成する。 The composite replacement image generation unit 40F generates the composite replacement image data replaced by the reference image replacement unit 40E in a predetermined file format (for example, JPEG format).
合成前複数フレーム画像統合部40Gは、画像入力部40Aに入力した4枚のRAW画像データを合成前複数フレーム画像として統合する。
The pre-combination multi-frame image integration unit 40G integrates the four RAW image data input to the
付加情報生成部40Hは、基本付加情報(例えばExif等、RAW画像データ用画像処理パラメータを含む)に、基準画像決定部40Cが決定した基準画像データ及び置換領域算出部40Dが算出した置換領域を統合した付加情報を生成する。基本付加情報のRAW画像データ用画像処理パラメータは、例えば、通常RAWデータに備わる色情報など、置換領域に関わる補足としてのAF領域やレンズ情報を含んでおり、置換領域もそれらの情報を使って、複数レベルを記憶することが可能である。
The additional
画像ファイル生成部40Iは、合成前複数フレーム画像統合部40Gからの合成前複数フレーム画像(4枚のRAW画像データ)及び付加情報生成部40からの付加情報を統合した特殊画像ファイルを生成する。
The image file generation unit 40I generates a special image file in which the pre-combination multi-frame images (four raw image data) from the pre-combination multi-frame image integration unit 40G and the additional information from the additional
図7は、画像ファイル生成部40Iが生成した特殊画像ファイルのデータ構造を示す図である。この特殊画像ファイルは、図中の上方から下方に向かって順に、基本付加情報(例えばExif等)、基準画像フレーム指定情報(基準画像決定部40Cが決定した基準画像データを示す情報)、基準画像置換領域情報(置換領域算出部40Dが算出した置換領域を示す情報)、及び、合成前複数フレーム画像(4枚(n枚(nは正の整数))のRAW画像データ)を階層化して統合したデータ構造を有している。なお、特殊画像ファイルの階層化構造は図7に示したものに限定されず種々の設計変更が可能である。
FIG. 7 is a diagram illustrating a data structure of a special image file generated by the image file generation unit 40I. The special image file includes, in order from the top to the bottom in the figure, basic additional information (for example, Exif), reference image frame designation information (information indicating the reference image data determined by the reference
画像ファイル保存部40Jは、合成置換画像生成部40Fが所定のファイル形式(例えばJPEG形式)で生成した合成置換画像データ、及び、画像ファイル生成部40Iが生成した特殊画像ファイル(図7)を対応付けて保存する。 The image file storage unit 40J corresponds to the combined replacement image data generated by the combined replacement image generation unit 40F in a predetermined file format (for example, JPEG format) and the special image file (FIG. 7) generated by the image file generation unit 40I. Add and save.
画像ファイル保存部40Jに保存された合成置換画像データと特殊画像ファイルの各出力の有無は、以下に示す4つの出力モード1〜出力モード4のいずれかに設定される。デジタルカメラ10は、これら4つの出力モード1〜出力モード4のいずれかを選択的に設定するRRS撮影モード設定部(出力設定部)28(図1)を有している。
出力モード1:合成置換画像データと特殊画像ファイルの双方を出力する。
出力モード2:合成置換画像データと特殊画像ファイルの双方を出力しない。
出力モード3:合成置換画像データを出力し特殊画像ファイルを出力しない。
出力モード4:特殊画像ファイルを出力し合成置換画像データを出力しない。
The presence / absence of each output of the composite replacement image data and the special image file stored in the image file storage unit 40J is set to one of the following four output modes 1 to 4. The
Output mode 1: Output both the composite replacement image data and the special image file.
Output mode 2: Neither composite replacement image data nor special image file is output.
Output mode 3: Outputs composite replacement image data and does not output a special image file.
Output mode 4: A special image file is output and composite replacement image data is not output.
図8のフローチャートを参照して、本実施形態のデジタルカメラ10によるRRS撮影処理を説明する。この撮影処理は、DSP(画像ファイル生成装置)40のコンピュータに所定のプログラムを実行させることにより実現される。
With reference to the flowchart of FIG. 8, the RRS imaging process by the
ステップS1では、イメージセンサ22が4枚(複数枚)のRAW画像データを取得してこれが画像入力部40Aに入力される。
In step S1, the
ステップS2では、画像合成部40Bが、画像入力部40Aに入力した4枚のRAW画像データを合成して合成画像データを得る。
In step S2, the
ステップS3では、基準画像決定部40Cが、画像入力部40Aに入力した4枚のRAW画像データの中から1枚を選択してこれを基準画像データに決定する。
In step S3, the reference
ステップS4では、置換領域算出部40Dが、画像合成部40Bによる合成画像データの少なくとも一部を基準画像決定部40Cが決定した基準画像データで置換するための置換領域を算出する。
In step S4, the replacement
ステップS5では、基準画像置換部40Eが、置換領域算出部40Dが算出した置換領域に従って、画像合成部40Bによる合成画像データを、基準画像決定部40Cが決定した基準画像データで置換する。また合成置換画像生成部40Fが、基準画像置換部40Eが置換した合成置換画像データを所定のファイル形式(例えばJPEG形式)で生成する。
In step S5, the reference image replacement unit 40E replaces the composite image data by the
ステップS6では、画像ファイル保存部40Jが、合成置換画像生成部40Fが所定のファイル形式(例えばJPEG形式)で生成した合成置換画像データを保存する。 In step S6, the image file storage unit 40J stores the composite replacement image data generated by the composite replacement image generation unit 40F in a predetermined file format (for example, JPEG format).
ステップS7では、DSP40が、特殊画像ファイルの保存設定がされているか否か、すなわちRRS撮影モード設定部(出力設定部)28による出力モードが上述した出力モード1または出力モード4に設定されているか否かを判定する。DSP40は、特殊画像ファイルの保存設定がされていない場合(ステップS7:NO)には処理を終了し、特殊画像ファイルの保存設定がされている場合(ステップS7:YES)にはステップS8に進む。
In step S7, whether the
ステップS8では、付加情報生成部40Hが、基本付加情報(例えばExif等)に、基準画像決定部40Cが決定した基準画像データ及び置換領域算出部40Dが算出した置換領域を統合した付加情報(基準画像置換用付加情報)を生成する。
In step S8, the additional
ステップS9では、合成前複数フレーム画像統合部40Gが、画像入力部40Aに入力した4枚のRAW画像データを合成前複数フレーム画像として統合する。
In step S9, the pre-combination multi-frame image integration unit 40G integrates the four raw image data input to the
ステップS10では、画像ファイル生成部40Iが、合成前複数フレーム画像統合部40Gからの合成前複数フレーム画像(4枚のRAW画像データ)及び付加情報生成部40からの付加情報を統合した特殊画像ファイル(図7)を生成する。
In step S10, the image file generation unit 40I integrates the pre-combination multi-frame images (four raw image data) from the pre-combination multi-frame image integration unit 40G and the additional information from the additional
ステップS11では、画像ファイル保存部40Jが、画像ファイル生成部40Iが生成した特殊画像ファイルを保存する。 In step S11, the image file storage unit 40J stores the special image file generated by the image file generation unit 40I.
図9は、本実施形態のデジタルカメラ10が出力した特殊画像ファイル(図7)を画像処理する外部アプリケーションとしての画像ファイル処理装置70を示す機能ブロック図である。
FIG. 9 is a functional block diagram showing an image
画像ファイル処理装置70は、特殊画像ファイル入力部71と、パラメータ改変部72と、画像合成部73と、画像置換部74とを有している。
The image
特殊画像ファイル入力部71は、デジタルカメラ10が出力した特殊画像ファイル(図7)が入力されるものである。画像ファイル処理装置70に入力した画像ファイルは、例えばそのヘッダ情報によって、通常画像ファイルであるのか、特殊画像ファイルであるのかが判別され、特殊画像ファイルだけが特殊画像ファイル入力部71に入出力される。特殊画像ファイル入力部71に入力した特殊画像ファイルは個々のファイル構成要素に分解される。
The special image
パラメータ改変部72は、特殊画像ファイル入力部71に入力した特殊画像ファイル(図7)のうち、基本付加情報(RAW画像データ用画像処理パラメータを含む)、基準画像フレーム指定情報(基準画像決定部40Cが決定した基準画像データを示す情報)、基準画像置換領域情報(置換領域算出部40Dが算出した置換領域を示す情報)、及び、合成前複数フレーム画像(4枚(n枚(nは正の整数))のRAW画像データ)の少なくとも一部を選択してこれに改変を加えることができる。
The
画像合成部73は、パラメータ改変部72による改変の有無を受けて、パラメータ改変部72による複数の画像データを合成し、パラメータ改変部72によるRAW画像データ用画像処理パラメータにより画像処理を行って、合成画像データを得る。
The image composition unit 73 receives the presence / absence of modification by the
画像置換部74は、パラメータ改変部72による改変の有無を受けて、画像合成部73による合成画像データの少なくとも一部を、パラメータ改変部72による置換領域に従って、パラメータ改変部72による基準画像データで置換する。
The
以上のように、本実施形態の撮影システム(画像処理システム)によれば、画像ファイル生成部40Iが複数の画像並びに基準画像及び置換領域を示す情報を含む特殊画像ファイル(図7)を生成するので、その後の画像合成処理において重複する演算を行う必要が無い(演算を省略できる)。このため、処理時間を短くし、CPU資源の無駄を小さくして、装置の構成を簡単化することができる。 As described above, according to the imaging system (image processing system) of the present embodiment, the image file generation unit 40I generates a special image file (FIG. 7) including information indicating a plurality of images, a reference image, and a replacement area. Therefore, there is no need to perform overlapping calculations in subsequent image composition processing (the calculations can be omitted). Therefore, the processing time can be shortened, waste of CPU resources can be reduced, and the configuration of the apparatus can be simplified.
また、外部アプリケーションである画像ファイル処理装置70によって、画像ファイル中の複数の画像並びに基準画像及び置換領域を示す情報の少なくとも一部に改変を加えることで、撮影者の撮影趣向に柔軟に対応したオリジナルの合成画像を得ることができる。デジタルカメラ10内のCPUで実行可能な処理には自ずと限界があるので、デジタルカメラ10内で各種のパラメータを改変することは現実的ではない。この点、複数の画像並びに基準画像及び置換領域を示す情報を含む特殊画像ファイル(図7)を外部アプリケーションで改変可能な態様で出力できる本実施形態は極めて有用である。
In addition, the image
以上の実施形態では、RRS撮影モードにおいて、イメージセンサ22を光軸直交平面内で1画素ピッチの正方形を描くように駆動しながら撮影した4枚の画像を「複数の画像」とした場合を例示して説明した。しかし、イメージセンサ22の駆動軌跡及び駆動ピッチ並びに「複数の画像」の枚数には自由度があり、種々の設計変更が可能である。またイメージセンサ22を駆動する方向は、撮影光学系の光軸と直交する平面内に限定されず、撮影光学系の光軸と異なる方向であればよい。さらに「複数の画像」は、RRS撮影モードで撮影(取得)したものに限定されず、同一の被写体について撮影条件を変えながら連続的に撮影したものであればよい(例えばHDR撮影)。
In the above embodiment, in the RRS imaging mode, a case where four images captured while driving the
以上の実施形態では、イメージセンサ22を「移動部材」として、このイメージセンサ22を光軸直交平面内で駆動する態様を例示して説明したが、本発明はこれに限定されるものではない。例えば、撮影レンズ群(撮影光学系)31の少なくとも一部をなす光学要素を「移動部材」として、この光学要素を撮影レンズ30内に設けたボイスコイルモータによって光軸直交平面内で駆動する態様も可能である。あるいは、イメージセンサ22と撮影レンズ群(撮影光学系)31の少なくとも一部をなす光学要素の双方を「移動部材」として、これらを光軸直交平面内で駆動する態様も可能である。
In the above embodiment, the
以上の実施形態では、DSP40とイメージセンサ駆動回路60を別々の構成要素(ブロック)として描いているが、これらを単一の構成要素(ブロック)として実現する態様も可能である。
In the above embodiment, the
以上の実施形態では、像振れ補正装置50の構成として、固定支持基板51に磁石M1、M2、M3及びヨークY1、Y2、Y3を固定し、可動ステージ52に駆動用コイルC1、C2、C3を固定した場合を例示して説明したが、この位置関係を逆にして、可動ステージに磁石及びヨークを固定し、固定支持基板に駆動用コイルを固定する態様も可能である。
In the above embodiment, the image
以上の実施形態では、ボディ本体20と撮影レンズ30を着脱可能(レンズ交換可能)とする態様を例示して説明したが、ボディ本体20と撮影レンズ30を着脱不能(レンズ交換不能)とする態様も可能である。
In the above embodiment, the mode in which the body
10 デジタルカメラ(撮影装置)
20 ボディ本体
21 シャッタ(撮影光学系)
22 イメージセンサ(画像取得部、移動部材、振れ補正部材)
R G(Gr、Gb) B カラーフィルタ
23 絞り/シャッタ駆動回路
24 LCD
25 画像メモリ
26 撮影操作スイッチ
27 ジャイロセンサ(振れ検出部)
28 RRS撮影モード設定部(出力設定部)
30 撮影レンズ
31 撮影レンズ群(撮影光学系、移動部材、振れ補正部材)
32 絞り(撮影光学系)
33 通信用メモリ
40 DSP(画像ファイル生成装置)
40A 画像入力部
40B 画像合成部
40C 基準画像決定部
40D 置換領域算出部(基準画像置換領域算定部)
40E 基準画像置換部
40F 合成置換画像生成部(合成処理済画像ファイル生成部)
40G 合成前複数フレーム画像統合部
40H 付加情報生成部
40I 画像ファイル生成部(合成前複数フレーム画像ファイル生成部)
40J 画像ファイル保存部
50 像振れ補正装置
51 固定支持基板
52 可動ステージ
M1 M2 M3 磁石
Y1 Y2 Y3 ヨーク
C1 C2 C3 駆動用コイル
H1 H2 H3 ホールセンサ(位置検出部)
60 イメージセンサ駆動回路
70 画像ファイル処理装置(外部アプリケーション)
71 特殊画像ファイル入力部
72 パラメータ改変部
73 画像合成部
74 画像置換部
10 Digital camera (photographing device)
20
22 Image sensor (image acquisition unit, moving member, shake correction member)
RG (Gr, Gb)
25
28 RRS shooting mode setting section (output setting section)
30
32 Aperture (Optical system)
33
40A
40E Reference image replacement unit 40F Composite replacement image generation unit (composited image file generation unit)
40G pre-combination multiple frame
40J Image
60 Image
71 Special image
Claims (8)
前記複数の画像の中から基準画像を決定する基準画像決定部と、
前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、
前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、
を有することを特徴とする撮影装置。 An image acquisition unit for acquiring a plurality of images;
A reference image determination unit for determining a reference image from the plurality of images;
A replacement area calculation unit for calculating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image;
An image file generation unit for generating an image file including information indicating the plurality of images and the reference image and the replacement area;
A photographing apparatus comprising:
前記置換領域を示す情報に従って前記合成画像を前記基準画像で置換した合成置換画像を生成する合成置換画像生成部をさらに有する撮影装置。 The imaging device according to claim 1,
An imaging apparatus further comprising a combined replacement image generation unit configured to generate a combined replacement image in which the combined image is replaced with the reference image in accordance with information indicating the replacement area.
前記画像ファイルと前記合成置換画像の各出力の有無を設定する出力設定部をさらに有する撮影装置。 The imaging device according to claim 2,
An imaging apparatus further comprising an output setting unit configured to set whether to output each of the image file and the composite replacement image.
前記複数の画像は、同一の被写体について撮影条件を変えながら連続的に撮影したものである撮影装置。 In the imaging device according to any one of claims 1 to 3,
The plurality of images is a photographing device in which the same subject is continuously photographed while changing photographing conditions.
前記複数の画像は、撮影光学系により形成された被写体像を電気的な画素信号に変換するイメージセンサにより撮影したものであり、且つ、前記撮影光学系の少なくとも一部をなす光学要素と前記イメージセンサの少なくとも一方を移動部材とし、この移動部材を前記撮影光学系の光軸と異なる方向に移動させながら、各移動後の被写体光束を前記イメージセンサの検出色の異なる複数の画素に入射させて撮影したものである撮影装置。 The photographing apparatus according to any one of claims 1 to 4,
The plurality of images are images taken by an image sensor that converts an object image formed by a photographing optical system into an electrical pixel signal, and the optical element that forms at least a part of the photographing optical system and the image Using at least one of the sensors as a moving member and moving the moving member in a direction different from the optical axis of the photographing optical system, the subject light flux after each movement is incident on a plurality of pixels having different detection colors of the image sensor. A photographic device that was taken.
前記複数の画像の中から基準画像を決定する基準画像決定部と、
前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出部と、
前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成部と、
を有することを特徴とする画像ファイル生成装置。 An image input unit for inputting a plurality of images;
A reference image determination unit for determining a reference image from the plurality of images;
A replacement area calculation unit for calculating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image;
An image file generation unit for generating an image file including information indicating the plurality of images and the reference image and the replacement area;
An image file generation device characterized by comprising:
前記画像ファイル中の前記複数の画像並びに前記基準画像及び前記置換領域を示す情報の少なくとも一部を選択してこれに改変を加えることができるパラメータ改変部と、
前記パラメータ改変部による改変の有無を受けて、前記パラメータ改変部による複数の画像を合成して合成画像を得る画像合成部と、
前記パラメータ改変部による改変の有無を受けて、前記合成画像の少なくとも一部を、前記パラメータ改変部による置換領域に従って、前記パラメータ改変部による基準画像で置換する画像置換部と、
を有することを特徴とする画像ファイル処理装置。 A plurality of images, information indicating a reference image determined from the plurality of images, information indicating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image, An image file input unit for inputting an image file having
A parameter modifying unit capable of selecting and modifying at least part of information indicating the plurality of images and the reference image and the replacement area in the image file;
In response to the presence or absence of modification by the parameter modification unit, an image composition unit that combines a plurality of images by the parameter modification unit to obtain a composite image;
In response to the presence or absence of modification by the parameter modification unit, an image replacement unit that replaces at least a part of the composite image with a reference image by the parameter modification unit according to a replacement region by the parameter modification unit;
An image file processing apparatus comprising:
前記複数の画像を合成した合成画像の少なくとも一部を前記基準画像で置換するための置換領域を算出する置換領域算出ステップと、
前記複数の画像並びに前記基準画像及び前記置換領域を示す情報を含む画像ファイルを生成する画像ファイル生成ステップと、
をコンピュータに実行させることを特徴とするプログラム。 A reference image determining step for determining a reference image from a plurality of images;
A replacement area calculating step of calculating a replacement area for replacing at least a part of a combined image obtained by combining the plurality of images with the reference image;
An image file generating step for generating an image file including information indicating the plurality of images and the reference image and the replacement area;
A program that causes a computer to execute.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015098935A JP6485204B2 (en) | 2015-05-14 | 2015-05-14 | Imaging device, image file generation device, image file processing device, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015098935A JP6485204B2 (en) | 2015-05-14 | 2015-05-14 | Imaging device, image file generation device, image file processing device, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016219861A JP2016219861A (en) | 2016-12-22 |
JP6485204B2 true JP6485204B2 (en) | 2019-03-20 |
Family
ID=57581561
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015098935A Active JP6485204B2 (en) | 2015-05-14 | 2015-05-14 | Imaging device, image file generation device, image file processing device, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6485204B2 (en) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4624604B2 (en) * | 2001-07-10 | 2011-02-02 | オリンパス株式会社 | Image acquisition device |
JP4788488B2 (en) * | 2006-06-16 | 2011-10-05 | ソニー株式会社 | Image processing apparatus, image processing method, program for image processing method, and recording medium recording program for image processing method |
JP2010034964A (en) * | 2008-07-30 | 2010-02-12 | Sharp Corp | Image composition apparatus, image composition method and image composition program |
JP5365823B2 (en) * | 2011-10-14 | 2013-12-11 | 株式会社モルフォ | Image composition apparatus, image composition method, image composition program, and recording medium |
-
2015
- 2015-05-14 JP JP2015098935A patent/JP6485204B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016219861A (en) | 2016-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6508311B2 (en) | Photographing apparatus, photographing module, photographing method and photographing program | |
JP6492960B2 (en) | Image capturing apparatus, image capturing method, image processing apparatus, image processing method, and program | |
US10129479B2 (en) | Photographing apparatus and photographing method with optical low-pass filter effect | |
JP6260614B2 (en) | Imaging apparatus and imaging control system | |
US20160366340A1 (en) | Photographing apparatus, photographing controller, photographing control method, and photographing control program | |
JP6299742B2 (en) | Imaging device | |
US9871964B2 (en) | Photographing apparatus, photographing controller, photographing control method, and photographing control program | |
JP5525109B2 (en) | Imaging device | |
JP5507761B2 (en) | Imaging device | |
JP6350538B2 (en) | Imaging apparatus and control method thereof | |
JP2020010140A (en) | Imaging apparatus and display method | |
JP6330817B2 (en) | Imaging apparatus, imaging method, imaging apparatus control apparatus, and imaging apparatus control method | |
JP6485204B2 (en) | Imaging device, image file generation device, image file processing device, and program | |
JP6500618B2 (en) | Imaging apparatus and imaging method | |
JP6500384B2 (en) | Imaging apparatus, imaging method and program | |
JP6500617B2 (en) | Imaging apparatus and imaging method | |
JP2017146362A (en) | Photographing device, photographing method, and photographing program | |
WO2015060077A1 (en) | Motion video capture device and motion video capture method | |
JP2024022636A (en) | Image sensor | |
JP6586732B2 (en) | Movie shooting apparatus and movie shooting method | |
JP2016212178A (en) | Image processing apparatus, control method of the same, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180202 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181105 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190122 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190204 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6485204 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |