JP2007020071A - Imaging apparatus, imaging method, and program - Google Patents

Imaging apparatus, imaging method, and program Download PDF

Info

Publication number
JP2007020071A
JP2007020071A JP2005201663A JP2005201663A JP2007020071A JP 2007020071 A JP2007020071 A JP 2007020071A JP 2005201663 A JP2005201663 A JP 2005201663A JP 2005201663 A JP2005201663 A JP 2005201663A JP 2007020071 A JP2007020071 A JP 2007020071A
Authority
JP
Japan
Prior art keywords
luminance
pixel
image
composite image
pixel data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005201663A
Other languages
Japanese (ja)
Other versions
JP4544064B2 (en
JP2007020071A5 (en
Inventor
Yoshihiro Tejima
義裕 手島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005201663A priority Critical patent/JP4544064B2/en
Publication of JP2007020071A publication Critical patent/JP2007020071A/en
Publication of JP2007020071A5 publication Critical patent/JP2007020071A5/ja
Application granted granted Critical
Publication of JP4544064B2 publication Critical patent/JP4544064B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an imaging apparatus, an imaging method, and a program capable of outputting an image desired by user, by properly correcting pixel data, at compression of a composite image. <P>SOLUTION: The imaging apparatus 1 includes: imaging means 11 to 15; a positional change extracting means 20; an image composite means 20; and an image compression means 20. The image compression means 20 includes a luminance calculation means 20 for calculating the luminance of each pixel of a composite image; a luminance correction means 20 for correcting the luminance of a target pixel, on the basis of the luminance of peripheral pixels of a prescribed target pixel of the composite image; and a pixel data determining means 20 that pixel data of a concerned pixel have a value between a value equivalent to the luminance corrected by the luminance correction means 20 and a value equivalent to the luminance at a preset proper exposure, when the luminance of the pixel in the composite image is within a preset proper luminance range or that the pixel data of the pixel have a value equivalent to the luminance corrected by the luminance correction means 20, when the luminance of the pixel in the composite image is not within the proper luminance range. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、撮像装置、撮像方法及びプログラムに関する。   The present invention relates to an imaging apparatus, an imaging method, and a program.

従来から、互いに異なる露出で複数の画像を撮像し、各画像を合成することによりダイナミックレンジを拡大した合成画像を作成することができる撮像装置としてのデジタルカメラがある。
このようなデジタルカメラには、合成画像の階調を圧縮する際に、合成画像の階調数と出力画像の階調数との比に基づき定まる直線と、合成画像の輝度分布を示すヒストグラムとを合成した合成曲線に基づき階調変換テーブルを作成し、この階調変換テーブルを参照して階調を圧縮するものがある(例えば、特許文献1参照。)。
また、合成画像の階調の圧縮時において、デジタルデータである合成画像の補正方法としてRetinex処理がよく知られている。Retinex処理には各種の変形例が考えられており、画像の補正方法として広く用いられている(例えば、特許文献2参照。)。
特開2003−46859号公報 特開2004−164121号公報
2. Description of the Related Art Conventionally, there is a digital camera as an imaging device that can capture a plurality of images with different exposures and create a combined image with an expanded dynamic range by combining the images.
In such a digital camera, when the gradation of the composite image is compressed, a straight line determined based on the ratio between the number of gradations of the composite image and the number of gradations of the output image, and a histogram indicating the luminance distribution of the composite image, There is a method in which a gradation conversion table is created based on a combined curve obtained by combining the above and the gradation is compressed with reference to the gradation conversion table (for example, see Patent Document 1).
In addition, Retinex processing is well known as a method for correcting a composite image, which is digital data, when compressing the gradation of a composite image. Various modifications are considered for the Retinex processing, and it is widely used as an image correction method (see, for example, Patent Document 2).
JP 2003-46859 A JP 2004-164121 A

ところで、上記特許文献1においては、ダイナミックレンジの広い合成画像中に占める重要な被写体の面積の割合が大きいことを前提としており、ヒストグラムのピーク近辺の輝度値がなるべく多くの階調に配分される階調変換テーブルを決定することによって、重要な被写体のコントラスト低下を抑制するものである。
しかし、合成画像には、重要な被写体が合成画像内に複数存在する場合や、背景に輝度が均一な比較的広い領域が存在する場合があり、このような場合にまで同じ階調変換テーブルを用いると、合成画像によってはユーザが望む圧縮画像で出力できないという問題があった。
By the way, in the above-mentioned Patent Document 1, it is assumed that the ratio of the area of an important subject in a composite image with a wide dynamic range is large, and the luminance values near the peak of the histogram are distributed to as many gradations as possible. By determining the gradation conversion table, a decrease in contrast of an important subject is suppressed.
However, there are cases where there are multiple important subjects in the composite image in the composite image, and there are cases where there is a relatively wide area with uniform brightness in the background. In such cases, the same gradation conversion table is used. When used, there is a problem that some compressed images cannot be output as a compressed image desired by the user.

そこで、本発明は、上記課題を解決するためになされたものであり、合成画像の圧縮時に画素データを適切に補正することができ、ユーザが望む圧縮画像を出力することができる撮像装置、撮像方法及びプログラムを提供することを目的とする。   Accordingly, the present invention has been made to solve the above-described problem, and an imaging apparatus and an imaging apparatus that can appropriately correct pixel data when a composite image is compressed and can output a compressed image desired by a user. An object is to provide a method and a program.

請求項1に記載の発明は、露出の異なる複数の画像を撮像する撮像手段と、前記撮像手段により撮像された画像から被写体の画像内における位置の変化を抽出する位置変化抽出手段と、各画像を合成して合成画像を作成する画像合成手段と、前記画像合成手段により合成された前記合成画像を出力に合わせて圧縮する画像圧縮手段と、を備え、前記画像圧縮手段は、前記合成画像の各画素の輝度を算出する輝度算出手段と、前記合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて前記注目画素の輝度を補正する輝度補正手段と、前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、前記輝度補正手段により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、前記合成画像における画素の輝度が、前記適正輝度範囲内にない場合には、当該画素の画素データは、前記輝度補正手段により補正された輝度に相当する値とする画素データ決定手段と、を備えることを特徴とする。
ここで、適正輝度範囲とは、撮像した際に露出が適正であると認められる画素において許容される輝度値の範囲をいう。
According to the first aspect of the present invention, there are provided an imaging unit that captures a plurality of images with different exposures, a position change extraction unit that extracts a change in position in an image of a subject from the images captured by the imaging unit, and each image Image combining means for creating a composite image by combining the image, and image compression means for compressing the composite image combined by the image composition means in accordance with the output, wherein the image compression means Luminance calculation means for calculating the brightness of each pixel, brightness correction means for correcting the brightness of the target pixel based on the brightness of surrounding pixels of the target pixel, using the predetermined pixel of the composite image as the target pixel, and the composite image When the luminance of the pixel in the pixel is within the preset appropriate luminance range, the pixel data of the pixel is preset with a value corresponding to the luminance corrected by the luminance correction means When the luminance of the pixel in the composite image is not within the appropriate luminance range, the pixel data of the pixel is corrected by the luminance correction unit. Pixel data determining means for setting a value corresponding to luminance.
Here, the appropriate luminance range refers to a range of luminance values that are allowed in a pixel that is considered to have an appropriate exposure when imaged.

請求項2に記載の発明は、請求項1に記載の撮像装置において、前記画素データ決定手段は、前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合に、当該画素の画素データを、前記輝度補正手段により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値との重み平均によって算出された値に決定することを特徴とする。   According to a second aspect of the present invention, in the imaging apparatus according to the first aspect, the pixel data determining unit is configured to detect the pixel when the luminance of the pixel in the composite image is within a preset appropriate luminance range. The pixel data is determined to be a value calculated by a weighted average of a value corresponding to the luminance corrected by the luminance correction means and a value corresponding to the luminance at a preset appropriate exposure.

請求項3に記載の発明は、撮像方法において、露出の異なる複数の画像を撮像する撮像工程と、前記撮像工程により撮像された画像から被写体の画像内における位置の変化を抽出する位置変化抽出工程と、各画像を合成して合成画像を作成する画像合成工程と、前記画像合成工程により合成された前記合成画像を出力に合わせて圧縮する画像圧縮工程と、を備え、前記画像圧縮工程は、前記合成画像の各画素の輝度を算出する輝度算出工程と、前記合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて前記注目画素の輝度を補正する輝度補正工程と、前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、前記輝度補正工程により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、前記合成画像における画素の輝度が、前記適正輝度範囲内にない場合には、当該画素の画素データは、前記輝度補正工程により補正された輝度に相当する値とする画素データ決定工程と、を備えることを特徴とする。   According to a third aspect of the present invention, in the imaging method, an imaging step of capturing a plurality of images with different exposures, and a position change extraction step of extracting a change in position in the image of the subject from the images captured by the imaging step And an image composition step for composing each image to create a composite image, and an image compression step for compressing the composite image synthesized by the image composition step according to an output, the image compression step comprising: A luminance calculating step of calculating the luminance of each pixel of the synthesized image, and a luminance correcting step of correcting the luminance of the pixel of interest based on the luminance of the surrounding pixels of the pixel of interest, with the predetermined pixel of the synthesized image as the pixel of interest. When the luminance of the pixel in the composite image is within a preset appropriate luminance range, the pixel data of the pixel corresponds to the luminance corrected by the luminance correction step. And the value corresponding to the luminance at the appropriate exposure set in advance, and the pixel data of the pixel is not the luminance correction when the luminance of the pixel in the composite image is not within the appropriate luminance range. And a pixel data determining step that sets a value corresponding to the luminance corrected by the step.

請求項4に記載の発明は、プログラムにおいて、露出の異なる複数の画像を撮像する撮像手段を備えるコンピュータに、前記撮像手段により撮像された画像から被写体の画像内における位置の変化を抽出する位置変化抽出機能と、各画像を合成して合成画像を作成する画像合成機能と、前記合成画像の各画素の輝度を算出する輝度算出機能と、前記合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて前記注目画素の輝度を補正する輝度補正機能と、前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、前記輝度補正機能により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、前記合成画像における画素の輝度が、前記適正輝度範囲内にない場合には、当該画素の画素データは、前記輝度補正機能により補正された輝度に相当する値とする画素データ決定機能と、を実現させることを特徴とする。   According to a fourth aspect of the present invention, in a program, a position change for extracting a change in position in an image of a subject from an image picked up by the image pickup means in a computer comprising image pickup means for picking up a plurality of images with different exposures An extraction function, an image composition function for compositing each image to create a composite image, a brightness calculation function for calculating the brightness of each pixel of the composite image, and a target pixel as a predetermined pixel of the composite image, the target pixel When the luminance correction function for correcting the luminance of the pixel of interest based on the luminance of the peripheral pixel of the pixel and the luminance of the pixel in the composite image are within a preset appropriate luminance range, the pixel data of the pixel is A pixel between the value corresponding to the luminance corrected by the luminance correction function and the value corresponding to the luminance at a preset appropriate exposure, and the pixel in the composite image When the luminance is not within the appropriate luminance range, the pixel data of the pixel is realized with a pixel data determination function that sets a value corresponding to the luminance corrected by the luminance correction function. .

請求項1に記載の発明によれば、撮像手段により露出の異なる複数の画像を撮像し、位置変化抽出手段により撮像された画像から被写体の画像内における位置の変化を抽出する。そして、画像合成手段により複数の撮像画像を合成して合成画像を作成する。このとき、位置変化抽出手段により抽出された位置の変化に基づき、各画素の位置を合わせた状態で合成が行われる。
作成された合成画像は、画像圧縮手段により出力に合わせて圧縮されるが、圧縮処理においては、輝度算出手段が合成画像の各画素の輝度を算出し、輝度補正手段が合成画像のうち、所定位置の画素を注目画素とし、この注目画素の周辺に存在する周辺画素の輝度に基づいて注目画素の輝度を補正する。
そして、画素データ決定手段が、合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、輝度補正手段により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、合成画像における画素の輝度が、適正輝度範囲内にない場合には、当該画素の画素データは、輝度補正手段により補正された輝度に相当する値とする。
According to the first aspect of the present invention, a plurality of images with different exposures are picked up by the image pickup means, and a change in position in the subject image is extracted from the image picked up by the position change extraction means. Then, a plurality of captured images are synthesized by the image synthesizing unit to create a synthesized image. At this time, based on the change in position extracted by the position change extraction means, the composition is performed in a state where the positions of the respective pixels are matched.
The created composite image is compressed in accordance with the output by the image compression means. In the compression process, the brightness calculation means calculates the brightness of each pixel of the composite image, and the brightness correction means is a predetermined one of the composite images. The pixel at the position is set as the pixel of interest, and the luminance of the pixel of interest is corrected based on the luminance of surrounding pixels existing around the pixel of interest.
Then, when the pixel data determining unit has the luminance of the pixel in the composite image within the preset appropriate luminance range, the pixel data of the pixel is preliminarily set to a value corresponding to the luminance corrected by the luminance correcting unit. If the luminance of the pixel in the composite image is not within the appropriate luminance range, the pixel data of the pixel is corrected by the luminance correction unit. The value corresponds to the luminance.

これにより、合成画像を圧縮する際に、補正の対象となる注目画素の輝度は、その周辺画素の輝度に基づいて補正されるので、従来のように、合成画像中の注目画素の輝度が同じで周辺画素の輝度が異なる場合に、両注目画素が同じ輝度に補正されることがなくなり、各画素を適切に補正することができる。よって、画像の圧縮による精度劣化を低減することができる。
また、画素データが予め設定された適正な輝度範囲内にある場合は、適正な輝度で撮像された画素データを考慮して圧縮後の画素データが決定されるため、画像データは、撮像されたときの自然な特徴をできるだけ残しつつ、適正な露出に近づくように補正されるので、ユーザが望む圧縮画像を出力することができる。
Thereby, when compressing the composite image, the brightness of the target pixel to be corrected is corrected based on the brightness of the surrounding pixels, so that the brightness of the target pixel in the composite image is the same as in the past. When the peripheral pixels have different luminances, both pixels of interest are not corrected to the same luminance, and each pixel can be corrected appropriately. Therefore, accuracy degradation due to image compression can be reduced.
In addition, when the pixel data is within an appropriate luminance range set in advance, the pixel data after compression is determined in consideration of the pixel data captured with the appropriate luminance. Since the correction is performed so as to approach the appropriate exposure while leaving the natural characteristics of the time as much as possible, a compressed image desired by the user can be output.

請求項2に記載の発明によれば、画素データ決定手段は、合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合に、当該画素の画素データを、輝度補正手段により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値との重み平均によって算出された値に決定するので、重みの設定を変更することで画像の輝度調節を要求に合わせて調節することができるようになる。   According to the second aspect of the present invention, the pixel data determination unit corrects the pixel data of the pixel by the luminance correction unit when the luminance of the pixel in the composite image is within a preset appropriate luminance range. Therefore, it is determined to be a value calculated by weighted average of the value corresponding to the brightness and the value corresponding to the brightness at the preset appropriate exposure. Can be adjusted.

請求項3に記載の発明によれば、撮像工程で露出の異なる複数の画像を撮像し、位置変化抽出工程で撮像された画像から被写体の画像内における位置の変化を抽出する。そして、画像合成工程で複数の撮像画像を合成して合成画像を作成する。このとき、位置変化抽出工程で抽出された位置の変化に基づき、各画素の位置を合わせた状態で合成が行われる。
作成された合成画像は、画像圧縮工程で出力に合わせて圧縮されるが、圧縮処理においては、輝度算出工程で合成画像の各画素の輝度を算出し、輝度補正工程で合成画像のうち、所定位置の画素を注目画素とし、この注目画素の周辺に存在する周辺画素の輝度に基づいて注目画素の輝度を補正する。
そして、画素データ決定工程で、合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、輝度補正工程で補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、合成画像における画素の輝度が、適正輝度範囲内にない場合には、当該画素の画素データは、輝度補正工程で補正された輝度に相当する値とする。
According to the third aspect of the present invention, a plurality of images with different exposures are captured in the imaging step, and a change in position in the image of the subject is extracted from the image captured in the position change extraction step. Then, a plurality of captured images are combined in an image combining step to create a combined image. At this time, based on the change in the position extracted in the position change extraction step, the composition is performed in a state where the positions of the respective pixels are matched.
The created composite image is compressed according to the output in the image compression process. In the compression process, the brightness calculation process calculates the luminance of each pixel of the composite image, and the brightness correction process calculates a predetermined value from the composite image. The pixel at the position is set as the pixel of interest, and the luminance of the pixel of interest is corrected based on the luminance of surrounding pixels existing around the pixel of interest.
Then, in the pixel data determination step, when the luminance of the pixel in the composite image is within the preset appropriate luminance range, the pixel data of the pixel is preliminarily set to a value corresponding to the luminance corrected in the luminance correction step. When the brightness of the pixel in the composite image is not within the proper brightness range, the pixel data of the pixel is corrected in the brightness correction step. The value corresponds to the luminance.

これにより、合成画像を圧縮する際に、補正の対象となる注目画素の輝度は、その周辺画素の輝度に基づいて補正されるので、従来のように、合成画像中の注目画素の輝度が同じで周辺画素の輝度が異なる場合に、両注目画素が同じ輝度に補正されることがなくなり、各画素を適切に補正することができる。よって、画像の圧縮による精度劣化を低減することができる。
また、画素データが予め設定された適正な輝度範囲内にある場合は、適正な輝度で撮像された画素データを考慮して圧縮後の画素データが決定されるため、画像データは、撮像されたときの自然な特徴をできるだけ残しつつ、適正な露出に近づくように補正されるので、ユーザが望む圧縮画像を出力することができる。
Thereby, when compressing the composite image, the brightness of the target pixel to be corrected is corrected based on the brightness of the surrounding pixels, so that the brightness of the target pixel in the composite image is the same as in the past. When the peripheral pixels have different luminances, both pixels of interest are not corrected to the same luminance, and each pixel can be corrected appropriately. Therefore, accuracy degradation due to image compression can be reduced.
In addition, when the pixel data is within an appropriate luminance range set in advance, the pixel data after compression is determined in consideration of the pixel data captured with the appropriate luminance. Since the correction is performed so as to approach the appropriate exposure while leaving the natural characteristics of the time as much as possible, a compressed image desired by the user can be output.

請求項4に記載の発明によれば、撮像手段により露出の異なる複数の画像を撮像し、位置変化抽出機能により撮像された画像から被写体の画像内における位置の変化を抽出する。そして、画像合成機能により複数の撮像画像を合成して合成画像を作成する。このとき、位置変化抽出機能により抽出された位置の変化に基づき、各画素の位置を合わせた状態で合成が行われる。
作成された合成画像は、画像圧縮機能により出力に合わせて圧縮されるが、圧縮処理においては、輝度算出機能により合成画像の各画素の輝度を算出し、輝度補正機能により合成画像のうち、所定位置の画素を注目画素とし、この注目画素の周辺に存在する周辺画素の輝度に基づいて注目画素の輝度を補正する。
そして、画素データ決定機能により、合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、輝度補正機能により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、合成画像における画素の輝度が、適正輝度範囲内にない場合には、当該画素の画素データは、輝度補正機能により補正された輝度に相当する値とする。
According to the fourth aspect of the present invention, a plurality of images with different exposures are picked up by the image pickup means, and a change in position in the image of the subject is extracted from the image picked up by the position change extraction function. Then, a plurality of captured images are synthesized by the image synthesis function to create a synthesized image. At this time, based on the change in position extracted by the position change extraction function, composition is performed in a state where the positions of the respective pixels are matched.
The created composite image is compressed according to the output by the image compression function. In the compression process, the brightness calculation function calculates the luminance of each pixel of the composite image, and the brightness correction function calculates a predetermined value from the composite image. The pixel at the position is set as the pixel of interest, and the luminance of the pixel of interest is corrected based on the luminance of surrounding pixels existing around the pixel of interest.
When the pixel data determination function causes the luminance of the pixel in the composite image to be within a preset appropriate luminance range, the pixel data of the pixel is preliminarily set to a value corresponding to the luminance corrected by the luminance correction function. When the brightness of the pixel in the composite image is not within the proper brightness range, the pixel data of the pixel is corrected by the brightness correction function. The value corresponds to the luminance.

これにより、合成画像を圧縮する際に、補正の対象となる注目画素の輝度は、その周辺画素の輝度に基づいて補正されるので、従来のように、合成画像中の注目画素の輝度が同じで周辺画素の輝度が異なる場合に、両注目画素が同じ輝度に補正されることがなくなり、各画素を適切に補正することができる。よって、画像の圧縮による精度劣化を低減することができる。
また、画素データが予め設定された適正な輝度範囲内にある場合は、適正な輝度で撮像された画素データを考慮して圧縮後の画素データが決定されるため、画像データは、撮像されたときの自然な特徴をできるだけ残しつつ、適正な露出に近づくように補正されるので、ユーザが望む圧縮画像を出力することができる。
Thereby, when compressing the composite image, the brightness of the target pixel to be corrected is corrected based on the brightness of the surrounding pixels, so that the brightness of the target pixel in the composite image is the same as in the past. When the peripheral pixels have different luminances, both pixels of interest are not corrected to the same luminance, and each pixel can be corrected appropriately. Therefore, accuracy degradation due to image compression can be reduced.
In addition, when the pixel data is within an appropriate luminance range set in advance, the pixel data after compression is determined in consideration of the pixel data captured with the appropriate luminance. Since the correction is performed so as to approach the appropriate exposure while leaving the natural characteristics of the time as much as possible, a compressed image desired by the user can be output.

以下、図面を参照して、本発明に係る撮像装置、撮像方法及びプログラムの最良の形態について詳細に説明する。
<撮像装置の構成>
図1は、撮像装置1の構成を示すブロック図である。
撮像装置1は、集光して被写体の画像を結像するための光学系11と、光学系11により結像された画像を取り込むためにデジタル化する光電変換部12と、ストロボ発光させるストロボ発光部13と、ズーム調節を行うズーム駆動部14と、焦点を調節するフォーカス駆動部15と、光学系11により結像された画像を表示させる表示部16と、操作入力を行う操作入力部17と、各部の動作制御を行う制御部20と、を備えている。
光学系11、光電変換部12、ストロボ発光部13、ズーム駆動部14、フォーカス駆動部15等により撮像手段が構成されている。
The best mode of an imaging apparatus, an imaging method, and a program according to the present invention will be described below in detail with reference to the drawings.
<Configuration of imaging device>
FIG. 1 is a block diagram illustrating a configuration of the imaging apparatus 1.
The imaging apparatus 1 includes an optical system 11 for condensing and forming an image of a subject, a photoelectric conversion unit 12 for digitizing to capture an image formed by the optical system 11, and strobe light emission for strobe light emission. Unit 13, zoom drive unit 14 that performs zoom adjustment, focus drive unit 15 that adjusts the focus, display unit 16 that displays an image formed by optical system 11, and operation input unit 17 that performs operation input. , And a control unit 20 that controls the operation of each unit.
The optical system 11, the photoelectric conversion unit 12, the strobe light emitting unit 13, the zoom driving unit 14, the focus driving unit 15 and the like constitute an imaging unit.

制御部20は、各部の動作制御に関する処理プログラムに従って各処理を実行するCPU21と、各処理を実行するための処理プログラムや画像データ等が記憶されるメモリ22と、を備えている。
メモリ22には、処理プログラムが展開され、当該プログラムに基づく処理を行う作業エリア23と、各部の動作制御に関する処理プログラムが記憶されたプログラムエリア24と、光学系11により結像され、光電変換部12によりデジタル化された画像の画像データや被写体の撮像にあたり適正な露出の範囲と認められる画素の輝度範囲を記憶するデータエリア25が形成されている。
また、制御部20には、外付けの外部メモリ26が接続されており、画像データを記憶させることができるようになっている。
The control unit 20 includes a CPU 21 that executes each process in accordance with a process program related to operation control of each unit, and a memory 22 that stores a process program, image data, and the like for executing each process.
In the memory 22, a processing program is developed, a work area 23 for performing processing based on the program, a program area 24 in which processing programs relating to operation control of each unit are stored, and an image formed by the optical system 11, and a photoelectric conversion unit A data area 25 is formed for storing the image data of the image digitized by No. 12 and the luminance range of the pixels that are recognized as an appropriate exposure range for imaging the subject.
The control unit 20 is connected to an external external memory 26 so that image data can be stored.

図2は、プログラムエリア24を示す構成ブロック図である。
プログラムエリア24には、異なる露出で撮像された、例えば、シャッタースピードの異なる二つの画像データを比較して被写体の画像内における位置の変化を抽出する位置変化抽出プログラム24aが記憶されている。すなわち、CPU21が位置変化抽出プログラム24aを実行することにより、制御部20は位置変化抽出手段として機能する。
また、プログラムエリア24には、各撮像画像を合成して一つの合成画像を作成する画像合成プログラム24bが記憶されている。すなわち、CPU21が画像合成プログラム24bを実行することにより、制御部20は画像合成手段として機能する。
また、プログラムエリア24には、画像合成プログラム24bにより合成された合成画像を出力に合わせて圧縮する画像圧縮プログラム24cが記憶されている。すなわち、CPU21が画像圧縮プログラム24cを実行することにより、制御部20は画像圧縮手段として機能する。
また、プログラムエリア24には、画像圧縮プログラム24cにより圧縮された圧縮画像に画像処理を施す画像処理プログラム24dが記憶されている。
FIG. 2 is a configuration block diagram showing the program area 24.
The program area 24 stores a position change extraction program 24a that compares two image data captured at different exposures, for example, and extracts a change in position in the subject image. That is, when the CPU 21 executes the position change extraction program 24a, the control unit 20 functions as a position change extraction unit.
In the program area 24, an image synthesis program 24b for synthesizing the captured images to create one synthesized image is stored. That is, when the CPU 21 executes the image composition program 24b, the control unit 20 functions as an image composition unit.
The program area 24 stores an image compression program 24c that compresses the composite image synthesized by the image synthesis program 24b in accordance with the output. That is, when the CPU 21 executes the image compression program 24c, the control unit 20 functions as an image compression unit.
The program area 24 stores an image processing program 24d for performing image processing on the compressed image compressed by the image compression program 24c.

ここで、上述の画像圧縮プログラム24cは、図3に示すように、合成画像の各画素の輝度を算出する輝度算出プログラム24fを有する。すなわち、CPU21が輝度算出プログラム24fを実行することにより、制御部20は輝度算出手段として機能する。
また、画像圧縮プログラム24cは、合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて注目画素の輝度を補正する輝度補正プログラム24gを有する。すなわち、CPU21が輝度補正プログラム24gを実行することにより、制御部20は輝度補正手段として機能する。
また、画像圧縮プログラム24cは、合成画像における画素の輝度が、データエリア25に記憶された適正輝度範囲である場合には、当該画素の画素データは、輝度補正プログラム24gにより補正された輝度と適正な露出で撮像された画素の輝度との間の輝度に相当する値とし、合成画像における画素の輝度が、データエリア25に記憶された適正輝度範囲でない場合には、当該画素の画素データは、輝度補正プログラム24gにより補正された輝度に相当する値とする画素データ決定プログラム24hを有する。すなわち、CPU21が画素データ決定プログラム24hを実行することにより、制御部20は画素データ決定手段として機能する。
Here, the above-described image compression program 24c has a luminance calculation program 24f for calculating the luminance of each pixel of the composite image, as shown in FIG. That is, when the CPU 21 executes the luminance calculation program 24f, the control unit 20 functions as a luminance calculation unit.
The image compression program 24c includes a luminance correction program 24g that corrects the luminance of the pixel of interest based on the luminance of pixels around the pixel of interest using a predetermined pixel of the synthesized image as the pixel of interest. That is, when the CPU 21 executes the brightness correction program 24g, the control unit 20 functions as a brightness correction unit.
In addition, when the luminance of the pixel in the composite image is within the appropriate luminance range stored in the data area 25, the image compression program 24c sets the pixel data of the pixel to the luminance corrected by the luminance correction program 24g and appropriate. If the luminance of the pixel in the composite image is not within the appropriate luminance range stored in the data area 25, the pixel data of the pixel is A pixel data determination program 24h having a value corresponding to the luminance corrected by the luminance correction program 24g is included. That is, when the CPU 21 executes the pixel data determination program 24h, the control unit 20 functions as a pixel data determination unit.

<撮像処理>
撮像装置1による撮像処理について説明する。
図1及び図4に示すように、ユーザが操作入力部17を構成する撮像ボタンを押下すると、光学系11が捉えているシーンが光電変換部12に集光され、光電変換部12はデジタル画像を作成する。このとき、光電変換部12が有する電子シャッタや光学系11が有する機械式シャッタにより露出時間を変化させて二つの画像の撮像が行われる(ステップS1:撮像工程)。
次いで、CPU21は、位置変化抽出プログラム24aを実行することにより、露出の異なる二つの画像から被写体の画像内における位置の変化を抽出する(ステップS2:位置変化抽出工程)。被写体の位置の変化を抽出するには、撮像された画像の特徴点を抽出する。特徴点の抽出に当たっては、KLT法等の方法で画像の固有値を有限個抽出して特徴点とする。そして、抽出された特徴点が次の画像においてどこに移動したかを知るため、特徴点に最も近い点を探す。これを複数の特徴点で行い、二つの画像間で特徴点の位置座標を対応させ画像の変換行列を求める。
<Imaging process>
An imaging process by the imaging apparatus 1 will be described.
As shown in FIGS. 1 and 4, when the user presses an image capturing button that constitutes the operation input unit 17, the scene captured by the optical system 11 is condensed on the photoelectric conversion unit 12, and the photoelectric conversion unit 12 is a digital image. Create At this time, two images are picked up by changing the exposure time using the electronic shutter of the photoelectric conversion unit 12 and the mechanical shutter of the optical system 11 (step S1: imaging step).
Next, the CPU 21 executes the position change extraction program 24a to extract a position change in the subject image from two images with different exposures (step S2: position change extraction step). In order to extract a change in the position of the subject, feature points of the captured image are extracted. When extracting the feature points, a finite number of eigenvalues of the image are extracted by a method such as the KLT method to obtain feature points. Then, in order to know where the extracted feature point has moved in the next image, a point closest to the feature point is searched. This is performed with a plurality of feature points, and the transformation coordinates of the images are obtained by associating the position coordinates of the feature points between the two images.

次いで、CPU21は、画像合成プログラム24bを実行することにより、二つの撮像画像を合成して一つの合成画像を作成する(ステップS3:画像合成工程)。撮像画像の合成においては、図5に示すように、二つの画像データのうち、露出の長い撮像画像の画像データに合わせて露出の短い撮像画像の画像データを露出の比で補正した後に合成する。具体的には、露出の長い撮像画像の画像データをPl、露出の短い撮像画像の画像データをPs、露出量の比をkとすると、CPU21は、位置変化抽出プログラム24aにて算出した変換行列を用いて両画像の位置座標を合わせ、露出の短い撮像画像の画像データPsに露出量の比kを乗算した値が所定の輝度閾値よりも大きい場合は、露出の短い撮像画像の画像データPsに露出量の比kを乗算した値を画像データとして用い、露出の短い撮像画像の画像データPsに露出量の比kを乗算した値が所定の輝度閾値以下である場合は、露出の長い撮像画像の画像データPlを用いる。   Next, the CPU 21 executes the image composition program 24b to synthesize the two captured images to create one composite image (step S3: image composition step). In the synthesis of the captured image, as shown in FIG. 5, the image data of the short-exposure captured image is corrected with the exposure ratio in accordance with the image data of the long-exposure captured image out of the two image data. . Specifically, assuming that the image data of a captured image with a long exposure is Pl, the image data of a captured image with a short exposure is Ps, and the exposure amount ratio is k, the CPU 21 converts the conversion matrix calculated by the position change extraction program 24a. If the value obtained by combining the position coordinates of both images and multiplying the image data Ps of the captured image with a short exposure by the exposure amount ratio k is larger than a predetermined luminance threshold, the image data Ps of the captured image with a short exposure When the value obtained by multiplying the image data Ps of the captured image with a short exposure by the exposure ratio k is equal to or less than a predetermined luminance threshold, the image obtained by multiplying the exposure amount ratio k by the exposure amount ratio k is used. The image data Pl of the image is used.

次いで、CPU21は、画像圧縮プログラム24cを実行することにより、画像合成プログラム24bにより合成されてできた合成画像を表示部16の出力レンジに合わせて圧縮する(ステップS4:画像圧縮行程)。
ここで、図6及び図7を用いて、合成画像の圧縮処理について説明すると、CPU21が輝度算出プログラム24fを実行することにより、制御部20は輝度算出部101として機能し、合成画像の各画素の輝度を算出する(ステップS41:輝度算出工程)。次いで、CPU21が輝度補正プログラム24gを実行することにより、制御部20は輝度補正部102として機能し、合成画素の所定画素を注目画素として、注目画素の周辺の周辺画素を用いて輝度補正を行う(ステップS42:輝度補正工程)。輝度補正の方法としては、例えば、公知の方法であるRetinex処理のシングルスケール網膜法を用いる。Retinex処理は、視覚をモデル化して注目画素に対して周辺画素の情報を加味する画素データの補正方法であり、画像の明暗部、すなわち、輝度の違いに応じて、画像の各部でゲイン調整が変わるため、ダイナミックレンジが拡大された合成画像を効果的に圧縮することができる。Retinex処理による輝度補正は、注目画素の輝度成分Y(x、y)と周辺視野関数F(x、y)とした場合に、以下の式(1)で表される。
Yr=logY(x、y)−log{Fn(x、y)*Y(x、y)}・・・(1)
ここで、周辺視野関数F(x、y)は、rを注目画素と周辺画素の距離、cをスケール変数とした場合に、以下の式(2)で表される。
F(x、y)=Ke−r2/c2 ・・・(2)
なお、Kは、周辺視野関数の合計が1になるように定められる。
式(1)による結果を式(3)により正規化し、出力とする。ここで、uはゲイン、vはオフセットであり、出力の輝度信号のビット数等により決定される。
Yout=uYr+v ・・・(3)
Next, the CPU 21 executes the image compression program 24c to compress the combined image formed by the image combining program 24b in accordance with the output range of the display unit 16 (step S4: image compression process).
Here, the compression processing of the composite image will be described with reference to FIGS. 6 and 7. When the CPU 21 executes the luminance calculation program 24 f, the control unit 20 functions as the luminance calculation unit 101, and each pixel of the composite image Is calculated (step S41: luminance calculation step). Next, when the CPU 21 executes the luminance correction program 24g, the control unit 20 functions as the luminance correction unit 102, and performs luminance correction using peripheral pixels around the target pixel with the predetermined pixel of the synthesized pixel as the target pixel. (Step S42: luminance correction step). As a luminance correction method, for example, a single-scale retinal method of Retinex processing, which is a known method, is used. Retinex processing is a pixel data correction method that models vision and adds peripheral pixel information to the pixel of interest, and gain adjustment is performed in each part of the image according to the brightness and darkness of the image, that is, the difference in luminance. Therefore, it is possible to effectively compress a composite image with an expanded dynamic range. The luminance correction by the Retinex process is expressed by the following equation (1) when the luminance component Y (x, y) and the peripheral visual field function F (x, y) of the target pixel are used.
Yr = logY (x, y) -log {Fn (x, y) * Y (x, y)} (1)
Here, the peripheral visual field function F (x, y) is expressed by the following equation (2), where r is the distance between the target pixel and the peripheral pixels, and c is a scale variable.
F (x, y) = Ke− r2 / c2 (2)
K is determined so that the sum of the peripheral visual field functions is 1.
The result of equation (1) is normalized by equation (3) and output. Here, u is a gain, and v is an offset, which is determined by the number of bits of the output luminance signal.
Yout = uYr + v (3)

次いで、CPU21が画素データ決定プログラム24hを実行することにより、制御部20は出力輝度演算部103及び出力画像作成部104として機能し、圧縮後の圧縮画像の画素データを決定する。
具体的には、CPU21は、注目画素の輝度が適正な露出で撮像された画素データの適正輝度の範囲内にあるか否かを判断する(ステップS43)。これは、適正な露出で撮像された画像に近い自然な出力画像を作成するためである。
ここで、適正輝度を有する画素データは、図5におけるPaであり、実際に適正露出で撮像しなくとも適正な露出の条件がわかっていれば合成画像のどの部分に当たるかを推測することができる。
ステップS43において、CPU21が注目画素の輝度が適正輝度の範囲内にあると判断した場合(ステップS43:YES)、CPU21は、Retinex処理により補正された輝度と適正な露出の画素の輝度の平均を算出し、その平均値を画素データに決定する(ステップS44:画素データ決定工程)。平均値の算出においては、単純に平均を算出してもよいし、補正された輝度又は適正な露出の画素の輝度に予めユーザにより設定された重み係数を用いて重みづけをして平均を算出してもよい。具体的には、重みづけは、画素データの処理の度合いを強めたい場合には、補正された輝度に近づくように補正された輝度に重みづけをするように平均し、逆に、画素データの処理の度合いを弱めたい場合には、適正な露出の輝度に近づくように適正な露出の輝度に重みづけをするように平均する。
Next, when the CPU 21 executes the pixel data determination program 24h, the control unit 20 functions as the output luminance calculation unit 103 and the output image creation unit 104, and determines the pixel data of the compressed image after compression.
Specifically, the CPU 21 determines whether or not the luminance of the target pixel is within the appropriate luminance range of the pixel data captured with appropriate exposure (step S43). This is to create a natural output image close to an image captured with appropriate exposure.
Here, the pixel data having the appropriate luminance is Pa in FIG. 5, and it can be inferred which part of the composite image corresponds to the proper exposure condition without knowing the actual exposure. .
In step S43, when the CPU 21 determines that the luminance of the target pixel is within the range of the appropriate luminance (step S43: YES), the CPU 21 calculates the average of the luminance corrected by the Retinex process and the luminance of the pixel with the appropriate exposure. The average value is calculated as pixel data (step S44: pixel data determination step). In calculating the average value, the average may be simply calculated, or the average is calculated by weighting the corrected luminance or the luminance of the pixel with appropriate exposure using a weighting factor set in advance by the user. May be. Specifically, the weighting is averaged so as to weight the corrected luminance so as to approach the corrected luminance when the degree of processing of the pixel data is to be increased, and conversely, When it is desired to reduce the degree of processing, averaging is performed so that the appropriate exposure brightness is weighted so as to approach the proper exposure brightness.

一方、ステップS43において、CPU21が注目画素の輝度が適正輝度の範囲内にないと判断した場合(ステップS43:NO)、CPU21は、Retinex処理により補正された輝度になるように画素データを決定する。
次いで、CPU21は、合成画像の輝度と表示部16の出力レンジに合わせて圧縮された圧縮画像の輝度との輝度比を算出し(ステップS45)、続いて、CPU21は、算出された輝度比を合成画像の画素データに乗じて(ステップS46)、画像の圧縮処理を終了させる。
On the other hand, when the CPU 21 determines in step S43 that the luminance of the target pixel is not within the appropriate luminance range (step S43: NO), the CPU 21 determines the pixel data so that the luminance is corrected by the Retinex process. .
Next, the CPU 21 calculates a luminance ratio between the luminance of the synthesized image and the luminance of the compressed image compressed according to the output range of the display unit 16 (step S45), and then the CPU 21 calculates the calculated luminance ratio. The pixel data of the composite image is multiplied (step S46), and the image compression process is terminated.

ここで、画素データの補正から画素データの決定に至るまでの従来の方法と比較した長所を説明する。
例えば、合成画像中に輝度が等しい二つの注目画素P1,P2があるとする。この場合において、注目画素の輝度だけを見て画素データの補正を行うと、注目画素P1,P2の補正後の画素データは、ともに同じ値の画素データとなる。しかし、周辺画素を考慮して画素データの補正を行うと、図5に示すように、周囲画素の輝度の差によって補正後の画素データが異なってくる。これにより、補正後の画像の精度劣化を低減することができる。
さらに、注目画素P1,P2の輝度が、適正な露出で撮像された画素データの輝度の範囲内である場合には、平均又は重みづけ平均により、注目画素P1,P2の画素データは、補正された輝度と適正な露出で撮像された画素データの輝度との間に相当する値に決定される。これにより、画素データは適正輝度に近づく方向に補正されるので、作成される圧縮画像を自然な状態の画像に近づけることができる。
Here, the advantages compared with the conventional method from the correction of the pixel data to the determination of the pixel data will be described.
For example, it is assumed that there are two target pixels P1 and P2 having the same luminance in the composite image. In this case, when the pixel data is corrected by looking at only the luminance of the target pixel, the corrected pixel data of the target pixels P1 and P2 are both pixel data having the same value. However, when the pixel data is corrected in consideration of the peripheral pixels, the corrected pixel data varies depending on the luminance difference of the peripheral pixels as shown in FIG. Thereby, it is possible to reduce the accuracy deterioration of the corrected image.
Further, when the luminance of the target pixels P1 and P2 is within the luminance range of the pixel data captured with appropriate exposure, the pixel data of the target pixels P1 and P2 is corrected by the average or the weighted average. It is determined to be a value corresponding to the brightness between the brightness and the brightness of the pixel data captured with appropriate exposure. As a result, the pixel data is corrected in a direction approaching the appropriate luminance, so that the created compressed image can be brought close to an image in a natural state.

そして、CPU21は、合成画像を上述の手法で圧縮した後、図4に示すように、画像処理プログラム24dを実行することにより、圧縮画像にガンマ補正、色補正等の画像処理を施して表示部16に表示させるための出力画像を作成する(ステップS5)。
次いで、CPU21は、画像処理後の出力画像を表示部16に表示させて(ステップS6)、本処理を終了させる。なお、表示部16に表示された出力画像は、ユーザの判断によりデータエリア25又は外部メモリ26に記憶できるようにしてもよいし、出力画像を作成した段階でデータエリア25又は外部メモリ26に強制的に記憶させてもよい。
Then, after compressing the composite image by the above-described method, the CPU 21 executes an image processing program 24d as shown in FIG. 4 to perform image processing such as gamma correction and color correction on the compressed image, thereby displaying the display unit. An output image to be displayed on the screen 16 is created (step S5).
Next, the CPU 21 displays the output image after the image processing on the display unit 16 (step S6), and ends this processing. Note that the output image displayed on the display unit 16 may be stored in the data area 25 or the external memory 26 at the discretion of the user, or may be forcibly stored in the data area 25 or the external memory 26 when the output image is created. May be memorized.

<実施形態の作用効果>
実施形態によれば、露出の異なる複数の画像を撮像し、CPU21による位置変化抽出プログラム24aの実行により、撮像された画像から被写体の画像内における位置の変化を抽出する。そして、CPU21による画像合成プログラム24bの実行により、二つの撮像画像を合成して一つの合成画像を作成する。このとき、位置変化抽出プログラム24aにより抽出された位置の変化に基づき、各画素の位置を合わせた状態で合成が行われる。
作成された合成画像は、CPU21による画像圧縮プログラム24cの実行により表示部16の出力レンジに合わせて圧縮されるが、圧縮処理においては、CPU21による輝度算出プログラム24fの実行により、合成画像の各画素の輝度を算出し、CPU21による輝度補正プログラム24gの実行により、合成画像のうち、所定位置の画素を注目画素とし、この注目画素の周辺に存在する周辺画素の輝度に基づいて注目画素の輝度を補正する。
そして、CPU21による画素データ決定プログラム24hの実行により、合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、輝度補正プログラム24gにより補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、合成画像における画素の輝度が、適正輝度範囲内にない場合には、当該画素の画素データは、輝度補正プログラム24gにより補正された輝度に相当する値とする。
<Effects of Embodiment>
According to the embodiment, a plurality of images with different exposures are captured, and a change in position in the image of the subject is extracted from the captured images by executing the position change extraction program 24a by the CPU 21. Then, by executing the image synthesis program 24b by the CPU 21, the two captured images are synthesized to create one synthesized image. At this time, based on the change in position extracted by the position change extraction program 24a, the composition is performed in a state where the positions of the respective pixels are matched.
The created composite image is compressed in accordance with the output range of the display unit 16 by execution of the image compression program 24c by the CPU 21, but in the compression processing, each pixel of the composite image is executed by execution of the luminance calculation program 24f by the CPU 21. And the luminance correction program 24g is executed by the CPU 21, and the pixel at a predetermined position in the synthesized image is set as the pixel of interest, and the luminance of the pixel of interest is calculated based on the luminance of peripheral pixels existing around the pixel of interest. to correct.
When the pixel data determination program 24h is executed by the CPU 21 and the luminance of the pixel in the composite image is within a preset appropriate luminance range, the pixel data of the pixel is corrected by the luminance correction program 24g. If the luminance of the pixel in the composite image is not within the appropriate luminance range, the pixel data of the pixel is the luminance The value is equivalent to the luminance corrected by the correction program 24g.

これにより、合成画像を圧縮する際に、補正の対象となる注目画素の輝度は、その周辺画素の輝度に基づいて補正されるので、合成画像中の注目画素の輝度が同じで周辺画素の輝度が異なる場合であっても、両注目画素が同じ輝度に補正されることがなくなり、各画素を適切に補正することができる。
また、画素データがデータエリア25に記憶された適正な輝度範囲内にある場合は、適正な輝度範囲内の画素データを考慮して圧縮後の画素データが決定されるため、画像データは、撮像されたときの特徴をできるだけ残しつつ、適正な露出に近づくように補正されるので、ユーザが望む圧縮画像を出力することができる。
As a result, when the synthesized image is compressed, the luminance of the target pixel to be corrected is corrected based on the luminance of the surrounding pixels. Therefore, the luminance of the target pixel in the synthesized image is the same and the luminance of the peripheral pixels is corrected. Even if they are different, both pixels of interest are not corrected to the same luminance, and each pixel can be corrected appropriately.
In addition, when the pixel data is within the proper luminance range stored in the data area 25, the pixel data after compression is determined in consideration of the pixel data within the proper luminance range. Since the correction is made so as to approach the appropriate exposure while leaving as much as possible the feature at the time of being performed, the compressed image desired by the user can be output.

また、画素データの決定において、画素データ決定プログラム24hの実行により、合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合に、当該画素の画素データを、輝度補正プログラム24gにより補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値との重み平均によって算出された値に決定するので、重みの設定を変更することで画像の輝度調節を要求に合わせて調節することができるようになる。   Further, when determining the pixel data, when the pixel data determination program 24h executes the pixel brightness in the composite image within the appropriate brightness range set in advance, the pixel data of the pixel is corrected by the brightness correction program 24g. The value calculated by the weighted average of the value corresponding to the luminance and the value corresponding to the luminance at the appropriate exposure set in advance is determined so that the luminance adjustment of the image is requested by changing the weight setting. It will be possible to adjust to match.

<その他>
なお、本発明は上記実施形態に限られるものではない。上記実施形態においては、異なる露出で撮像され、合成される画像を二つとしたが、三つ以上の画像を合成するものであってもよい。その場合、露出補正値は、最も露出の長い画像を基準として、他の画像の露出補正値を算出すればよい。
また、合成画像の画像データの圧縮を撮像装置で行うものに限らず、合成画像の画像データをパーソナルコンピュータに送信し、パーソナルコンピュータで圧縮処理を行ってもよい。
その他、発明の範囲内で自由に設計変更が可能である。
<Others>
The present invention is not limited to the above embodiment. In the above-described embodiment, two images are captured and combined with different exposures, but three or more images may be combined. In this case, as the exposure correction value, the exposure correction value of another image may be calculated using the image with the longest exposure as a reference.
Further, the image data of the composite image is not limited to being compressed by the imaging apparatus, and the image data of the composite image may be transmitted to the personal computer and the compression processing may be performed by the personal computer.
In addition, the design can be freely changed within the scope of the invention.

撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of an imaging device. 図1におけるプログラムエリアの構成を示すブロック図である。It is a block diagram which shows the structure of the program area in FIG. 図2における画像圧縮プログラムの構成を示すブロック図である。It is a block diagram which shows the structure of the image compression program in FIG. 撮像画像の処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a process of a captured image. 露出の異なる二つの画像データの比較を示すとともに、適正な露出の範囲と認められる輝度範囲を示すグラフである。It is a graph which shows the luminance range recognized as the range of appropriate exposure while showing the comparison of two image data from which exposure differs. 合成画像の圧縮処理の機能を示すブロック図である。It is a block diagram which shows the function of the compression process of a synthesized image. 合成画像の圧縮処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the compression process of a synthesized image.

符号の説明Explanation of symbols

1 撮像装置
11 光学系(撮像手段)
12 光電変換部(撮像手段)
13 ストロボ発光部(撮像手段)
14 ズーム駆動部(撮像手段)
15 フォーカス駆動部(撮像手段)
17 操作入力部
20 制御部(位置変化抽出手段、画像合成手段、画像圧縮手段、輝度算出手段、輝度補正手段、画素データ決定手段)
101 輝度算出部(輝度算出手段)
102 輝度補正部(輝度補正手段)
103 出力輝度演算部(画素データ決定手段)
DESCRIPTION OF SYMBOLS 1 Imaging device 11 Optical system (imaging means)
12 Photoelectric conversion unit (imaging means)
13 Strobe light emitting unit (imaging means)
14 Zoom drive (imaging means)
15 Focus drive unit (imaging means)
17 Operation input unit 20 Control unit (position change extraction unit, image synthesis unit, image compression unit, luminance calculation unit, luminance correction unit, pixel data determination unit)
101 Luminance calculation unit (luminance calculation means)
102 Luminance correction unit (luminance correction means)
103 Output luminance calculation unit (pixel data determining means)

Claims (4)

露出の異なる複数の画像を撮像する撮像手段と、
前記撮像手段により撮像された画像から被写体の画像内における位置の変化を抽出する位置変化抽出手段と、
各画像を合成して合成画像を作成する画像合成手段と、
前記画像合成手段により合成された前記合成画像を出力に合わせて圧縮する画像圧縮手段と、
を備え、
前記画像圧縮手段は、
前記合成画像の各画素の輝度を算出する輝度算出手段と、
前記合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて前記注目画素の輝度を補正する輝度補正手段と、
前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、前記輝度補正手段により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、
前記合成画像における画素の輝度が、前記適正輝度範囲内にない場合には、当該画素の画素データは、前記輝度補正手段により補正された輝度に相当する値とする画素データ決定手段と、
を備えることを特徴とする撮像装置。
Imaging means for imaging a plurality of images with different exposures;
Position change extracting means for extracting a change in position in the image of the subject from the image picked up by the image pickup means;
Image composition means for composing each image to create a composite image;
Image compression means for compressing the synthesized image synthesized by the image synthesis means in accordance with output;
With
The image compression means includes
Luminance calculation means for calculating the luminance of each pixel of the composite image;
Luminance correction means for correcting the luminance of the target pixel based on the luminance of the surrounding pixels of the target pixel, with the predetermined pixel of the composite image as the target pixel;
When the luminance of the pixel in the composite image is within a preset appropriate luminance range, the pixel data of the pixel is a value corresponding to the luminance corrected by the luminance correction unit and a preset appropriate exposure. Between the values corresponding to the brightness at
When the luminance of the pixel in the composite image is not within the appropriate luminance range, the pixel data determination unit sets the pixel data of the pixel to a value corresponding to the luminance corrected by the luminance correction unit;
An imaging apparatus comprising:
前記画素データ決定手段は、
前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合に、当該画素の画素データを、前記輝度補正手段により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値との重み平均によって算出された値に決定することを特徴とする請求項1に記載の撮像装置。
The pixel data determining means includes
When the luminance of a pixel in the composite image is within a preset appropriate luminance range, the pixel data of the pixel is set to a value corresponding to the luminance corrected by the luminance correction unit and a preset appropriate exposure. The imaging apparatus according to claim 1, wherein the imaging device is determined to be a value calculated by weighted averaging with a value corresponding to luminance.
露出の異なる複数の画像を撮像する撮像工程と、
前記撮像工程により撮像された画像から被写体の画像内における位置の変化を抽出する位置変化抽出工程と、
各画像を合成して合成画像を作成する画像合成工程と、
前記画像合成工程により合成された前記合成画像を出力に合わせて圧縮する画像圧縮工程と、
を備え、
前記画像圧縮工程は、
前記合成画像の各画素の輝度を算出する輝度算出工程と、
前記合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて前記注目画素の輝度を補正する輝度補正工程と、
前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、前記輝度補正工程により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、
前記合成画像における画素の輝度が、前記適正輝度範囲内にない場合には、当該画素の画素データは、前記輝度補正工程により補正された輝度に相当する値とする画素データ決定工程と、
を備えることを特徴とする撮像方法。
An imaging step of imaging a plurality of images with different exposures;
A position change extraction step of extracting a change in position in the image of the subject from the image picked up by the image pickup step;
An image composition step of composing each image to create a composite image;
An image compression step of compressing the combined image combined by the image combining step according to an output;
With
The image compression step includes
A luminance calculation step of calculating the luminance of each pixel of the composite image;
A luminance correction step of correcting the luminance of the target pixel based on the luminance of the peripheral pixels of the target pixel, with the predetermined pixel of the composite image as the target pixel,
When the luminance of the pixel in the composite image is within a preset appropriate luminance range, the pixel data of the pixel is a value corresponding to the luminance corrected by the luminance correction step and a preset appropriate exposure. Between the values corresponding to the brightness at
When the luminance of the pixel in the composite image is not within the appropriate luminance range, the pixel data determination step in which the pixel data of the pixel is a value corresponding to the luminance corrected by the luminance correction step;
An imaging method comprising:
露出の異なる複数の画像を撮像する撮像手段を備えるコンピュータに、
前記撮像手段により撮像された画像から被写体の画像内における位置の変化を抽出する位置変化抽出機能と、
各画像を合成して合成画像を作成する画像合成機能と、
前記合成画像の各画素の輝度を算出する輝度算出機能と、
前記合成画像の所定画素を注目画素として、当該注目画素の周辺画素の輝度に基づいて前記注目画素の輝度を補正する輝度補正機能と、
前記合成画像における画素の輝度が予め設定された適正輝度範囲内にある場合には、当該画素の画素データは、前記輝度補正機能により補正された輝度に相当する値と予め設定された適正な露出における輝度に相当する値の間の値とし、
前記合成画像における画素の輝度が、前記適正輝度範囲内にない場合には、当該画素の画素データは、前記輝度補正機能により補正された輝度に相当する値とする画素データ決定機能と、
を実現させるためのプログラム。
In a computer comprising an imaging means for imaging a plurality of images with different exposures,
A position change extraction function for extracting a change in position in the image of the subject from the image picked up by the image pickup means;
An image composition function for composing each image to create a composite image;
A luminance calculation function for calculating the luminance of each pixel of the composite image;
A luminance correction function that corrects the luminance of the target pixel based on the luminance of the peripheral pixels of the target pixel, with the predetermined pixel of the composite image as the target pixel;
When the luminance of the pixel in the composite image is within a preset appropriate luminance range, the pixel data of the pixel is a value corresponding to the luminance corrected by the luminance correction function and a preset appropriate exposure. Between the values corresponding to the brightness at
When the luminance of the pixel in the composite image is not within the appropriate luminance range, the pixel data determination function that sets the pixel data of the pixel to a value corresponding to the luminance corrected by the luminance correction function;
A program to realize
JP2005201663A 2005-07-11 2005-07-11 Imaging apparatus, imaging method, and program Expired - Fee Related JP4544064B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005201663A JP4544064B2 (en) 2005-07-11 2005-07-11 Imaging apparatus, imaging method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005201663A JP4544064B2 (en) 2005-07-11 2005-07-11 Imaging apparatus, imaging method, and program

Publications (3)

Publication Number Publication Date
JP2007020071A true JP2007020071A (en) 2007-01-25
JP2007020071A5 JP2007020071A5 (en) 2008-07-24
JP4544064B2 JP4544064B2 (en) 2010-09-15

Family

ID=37756795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005201663A Expired - Fee Related JP4544064B2 (en) 2005-07-11 2005-07-11 Imaging apparatus, imaging method, and program

Country Status (1)

Country Link
JP (1) JP4544064B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008289120A (en) * 2007-04-18 2008-11-27 Panasonic Corp Imaging apparatus, imaging method, integrated circuit, and program
US8488029B2 (en) 2007-04-18 2013-07-16 Panasonic Corporation Imaging apparatus, imaging method, integrated circuit, and storage medium

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002223355A (en) * 2001-01-25 2002-08-09 Olympus Optical Co Ltd Image processor and recording medium with image processing program recorded thereon
JP2003230022A (en) * 2002-02-01 2003-08-15 Sony Corp Image processing apparatus and method, and recording medium
JP2005004510A (en) * 2003-06-12 2005-01-06 Minolta Co Ltd Image processing program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002223355A (en) * 2001-01-25 2002-08-09 Olympus Optical Co Ltd Image processor and recording medium with image processing program recorded thereon
JP2003230022A (en) * 2002-02-01 2003-08-15 Sony Corp Image processing apparatus and method, and recording medium
JP2005004510A (en) * 2003-06-12 2005-01-06 Minolta Co Ltd Image processing program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008289120A (en) * 2007-04-18 2008-11-27 Panasonic Corp Imaging apparatus, imaging method, integrated circuit, and program
US8488029B2 (en) 2007-04-18 2013-07-16 Panasonic Corporation Imaging apparatus, imaging method, integrated circuit, and storage medium
US8711255B2 (en) 2007-04-18 2014-04-29 Panasonic Corporation Visual processing apparatus and visual processing method

Also Published As

Publication number Publication date
JP4544064B2 (en) 2010-09-15

Similar Documents

Publication Publication Date Title
JP5713752B2 (en) Image processing apparatus and control method thereof
JP5408053B2 (en) Image processing apparatus and image processing method
WO2013054446A1 (en) Image compositing device, image compositing method, image compositing program, and recording medium
US7671892B2 (en) Image sensing apparatus, and control method, program, and storage medium of image sensing apparatus
US8493458B2 (en) Image capture apparatus and image capturing method
JP6074254B2 (en) Image processing apparatus and control method thereof
JP6218389B2 (en) Image processing apparatus and image processing method
JP2006319534A (en) Imaging apparatus, method and program
US10521887B2 (en) Image processing device and image processing method
JP2006238163A5 (en)
JP4818393B2 (en) Image processing method and image processing apparatus
KR20150109177A (en) Photographing apparatus, method for controlling the same, and computer-readable recording medium
US10237488B2 (en) Image capturing apparatus and image capturing method
JP2007028088A (en) Imaging apparatus and image processing method
JP4551270B2 (en) Image processing apparatus, image processing method, image processing program, and camera
JP2015144475A (en) Imaging apparatus, control method of the same, program and storage medium
JP5713643B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP6541501B2 (en) IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, AND IMAGE PROCESSING METHOD
JP4622711B2 (en) Image composition apparatus, image composition method, and program
JP5609788B2 (en) Image processing apparatus and image processing method
JP4544064B2 (en) Imaging apparatus, imaging method, and program
JP2002288650A (en) Image processing device, digital camera, image processing method and recording medium
JP2010183460A (en) Image capturing apparatus and method of controlling the same
JP2014039222A (en) Image processing apparatus, control method and control program of the same and imaging apparatus
JP5365881B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080611

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100608

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100621

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130709

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4544064

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees