JP2016144103A - Image detection range setting device, image detection range setting method, image detection range setting program and image detection apparatus - Google Patents

Image detection range setting device, image detection range setting method, image detection range setting program and image detection apparatus Download PDF

Info

Publication number
JP2016144103A
JP2016144103A JP2015019867A JP2015019867A JP2016144103A JP 2016144103 A JP2016144103 A JP 2016144103A JP 2015019867 A JP2015019867 A JP 2015019867A JP 2015019867 A JP2015019867 A JP 2015019867A JP 2016144103 A JP2016144103 A JP 2016144103A
Authority
JP
Japan
Prior art keywords
image
detection range
color
image detection
range setting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015019867A
Other languages
Japanese (ja)
Other versions
JP6548141B2 (en
Inventor
村松 功一
Koichi Muramatsu
功一 村松
健児 松本
Kenji Matsumoto
健児 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Imaging Co Ltd
Original Assignee
Ricoh Imaging Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Imaging Co Ltd filed Critical Ricoh Imaging Co Ltd
Priority to JP2015019867A priority Critical patent/JP6548141B2/en
Publication of JP2016144103A publication Critical patent/JP2016144103A/en
Application granted granted Critical
Publication of JP6548141B2 publication Critical patent/JP6548141B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image detection range setting device that suppresses the time required for detecting image deterioration.SOLUTION: A first image is captured and a range in which the image is focused is detected based on an AF result S12. Focusing area information is stored S13. A movable stage is driven and a solid-state imaging device is shifted S14. A second image is captured S14 and focusing area information is stored S16. Focusing areas in which a common subject image is captured in the first image and the second image are paired and based on a result of the pairing S19, a false color detection object pixel is set. A differential value of a color difference signal between the first image and the second image is calculated S21, and a distance within a color space is calculated S22. An addition value of the color difference signal is calculated S23, and a distance in the color space is calculated S24. A differential value of a luminance signal is calculated S25. The distance of the color difference signal differential value, the distance of the color difference signal addition value and the distance of the luminance signal differential value are used to determine whether it is a false color generation region S26. The presence/absence of a false color is detected S27.SELECTED DRAWING: Figure 5

Description

本発明は、画像内の画像劣化の検出範囲を設定する画像検出範囲設定装置、画像検出範囲設定方法、画像検出範囲設定プログラム、並びに画像内の画像劣化を検出する画像検出装置に関する。   The present invention relates to an image detection range setting device that sets an image degradation detection range in an image, an image detection range setting method, an image detection range setting program, and an image detection device that detects image degradation in an image.

撮像素子の画素ピッチと同程度以上の高周波成分を含む被写体を撮像すると、偽色(色モアレ)等のモアレが発生して、撮影画像が劣化することが知られている。そこで、この種の偽色を除去するための種々の技術が提案されている。例えば特許文献1に、撮影画像内に発生する偽色を検出することが可能な撮影装置の具体的構成が記載されている。   It is known that when a subject including a high frequency component equal to or higher than the pixel pitch of the image sensor is picked up, moire such as false color (color moire) is generated and the captured image is deteriorated. Therefore, various techniques for removing this type of false color have been proposed. For example, Patent Document 1 describes a specific configuration of a photographing apparatus capable of detecting a false color generated in a photographed image.

特許文献1に記載の撮影装置は、合焦状態の被写体を撮像し、次いで、非合焦状態の被写体を撮像する。非合焦状態の撮影画像では、被写体のコントラストが低下して高周波成分が低減されるため、合焦状態の撮影画像に発生していた偽色も低減される。そこで、特許文献1に記載の撮影装置は、合焦状態、非合焦状態の各撮影画像を複数のブロックに分割し、分割されたブロック毎に色差信号の差分値を演算し、差分値の大きいブロックを偽色が発生しているブロックとして検出する。   The imaging device described in Patent Document 1 captures an in-focus subject, and then captures an out-of-focus subject. In the out-of-focus photographed image, the contrast of the subject is reduced and high-frequency components are reduced, so that the false color generated in the in-focus photographed image is also reduced. Therefore, the imaging device described in Patent Document 1 divides each captured image in the in-focus state and the out-of-focus state into a plurality of blocks, calculates a difference value of the color difference signal for each of the divided blocks, and calculates the difference value. A large block is detected as a block in which a false color is generated.

特開2011−109496号公報JP 2011-109496 A

このように、特許文献1に記載の撮影装置では、偽色を検出するため、画像の全域に亘って色差信号の差分値が演算される。そのため、偽色の検出に時間が掛かるという問題が指摘される。   As described above, in the photographing apparatus described in Patent Literature 1, in order to detect a false color, the difference value of the color difference signal is calculated over the entire area of the image. Therefore, it is pointed out that it takes time to detect false colors.

本発明は上記の事情に鑑みてなされたものであり、その目的とするところは、画像劣化の検出に掛かる時間を抑えるのに好適な画像検出範囲設定装置、画像検出範囲設定方法、画像検出範囲設定プログラム及び画像検出装置を提供することである。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide an image detection range setting device, an image detection range setting method, and an image detection range that are suitable for reducing the time taken to detect image degradation. To provide a setting program and an image detection apparatus.

本発明の一実施形態に係る画像検出範囲設定装置は、画像内の合焦情報に基づいて少なくとも1つの合焦領域を検出する合焦領域検出手段と、画像内で発生する画像劣化の検出範囲を合焦領域検出手段により検出された各合焦領域を基準とする所定の範囲に設定する検出範囲設定手段とを備える。   An image detection range setting device according to an embodiment of the present invention includes a focus area detection unit that detects at least one focus area based on focus information in an image, and a detection range of image degradation that occurs in the image. Detection range setting means for setting a predetermined range with reference to each focus area detected by the focus area detection means.

本発明の一実施形態によれば、画像劣化の検出範囲が画像全域ではなく、画像劣化が発生している可能性の高い合焦領域を基準とする所定の範囲に設定される。そのため、画像劣化の検出精度が保たれつつ画像劣化の検出処理速度が向上する。   According to one embodiment of the present invention, the detection range of image degradation is set not to the entire image area but to a predetermined range based on a focused area where image degradation is likely to occur. Therefore, the detection processing speed of image deterioration is improved while maintaining the detection accuracy of image deterioration.

また、本発明の一実施形態において、画像劣化の検出範囲は、例えば、基準となる合焦領域及び該合焦領域を取り囲む所定の周辺領域よりなる。   In one embodiment of the present invention, the image degradation detection range includes, for example, a reference focusing area and a predetermined peripheral area surrounding the focusing area.

また、本発明の一実施形態に係る画像検出範囲設定装置は、走査者の操作を受け付ける操作手段と、受け付けられた操作者の操作に従って画像劣化の検出範囲を変更する検出範囲変更手段とを備える構成としてもよい。   In addition, an image detection range setting device according to an embodiment of the present invention includes an operation unit that accepts an operation of a scanner, and a detection range change unit that changes the detection range of image degradation according to the accepted operation of the operator. It is good also as a structure.

また、本発明の一実施形態において、検出範囲変更手段は、基準となる合焦領域の中心又は検出範囲の中心に対して操作者の操作に従って該検出範囲の大きさを変更する構成としてもよい。   In one embodiment of the present invention, the detection range changing means may be configured to change the size of the detection range in accordance with the operation of the operator with respect to the center of the reference focus area or the center of the detection range. .

また、本発明の一実施形態において、画像劣化の検出範囲の形状は、例えば、検出範囲変更手段による大きさの変更の前後で相似形を保つ。   Further, in one embodiment of the present invention, the shape of the image degradation detection range maintains a similar shape before and after the size change by the detection range changing unit, for example.

また、本発明の一実施形態に係る画像検出範囲設定装置は、画像劣化の検出範囲の大きさを示す指標を表示する指標表示手段を備える構成としてもよい。指標表示手段は、例えば、画像劣化の検出範囲の大きさの変更に応じて指標の表示を変化させる。   In addition, the image detection range setting device according to an embodiment of the present invention may be configured to include an index display unit that displays an index indicating the size of the image degradation detection range. The index display means changes the display of the index according to, for example, a change in the size of the image degradation detection range.

また、本発明の一実施形態に係る画像検出装置は、上記の画像検出範囲設定装置と、画像検出範囲設定装置により設定された検出範囲において画像劣化の検出を行う画像検出手段とを備える。   An image detection apparatus according to an embodiment of the present invention includes the above-described image detection range setting device and an image detection unit that detects image deterioration in the detection range set by the image detection range setting device.

また、本発明の一実施形態において、画像検出手段は、撮像条件の異なる少なくとも一対の画像を取得し、取得された対となる画像に基づいて検出範囲での画像劣化の検出を行う構成としてもよい。   In one embodiment of the present invention, the image detection unit may acquire at least a pair of images having different imaging conditions and detect image deterioration in a detection range based on the acquired paired images. Good.

また、本発明の一実施形態において、画像検出手段は、対となる画像間で同一の被写体が写る合焦領域を判別し、判別された同一の被写体が写る合焦領域を基準とする検出範囲について対となる画像に基づく画像劣化の検出を行う構成としてもよい。   In one embodiment of the present invention, the image detection unit determines a focus area where the same subject is captured between the pair of images, and a detection range based on the determined focus area where the same subject is captured. It is good also as a structure which detects the image degradation based on the image which becomes a pair about.

また、本発明の一実施形態において、画像検出手段は、対となる画像に基づいて所定の閾値判定を行い、閾値判定の結果に基づいて画像劣化の検出を行う構成としてもよい。この構成において、上記閾値は、操作者の操作に従って設定変更可能であってもよい。   In one embodiment of the present invention, the image detection unit may be configured to perform a predetermined threshold determination based on a pair of images and to detect image degradation based on a result of the threshold determination. In this configuration, the threshold value may be changeable according to the operation of the operator.

また、本発明の一実施形態に係る画像検出範囲設定方法は、画像内の合焦情報に基づいて少なくとも1つの合焦領域を検出する段階と、画像内で発生する画像劣化の検出範囲を検出された各合焦領域を基準とする所定の範囲に設定する検出範囲設定段階とを含む。   An image detection range setting method according to an embodiment of the present invention includes a step of detecting at least one focus area based on focus information in an image, and a detection range of image degradation occurring in the image. And a detection range setting step for setting a predetermined range with each focused area as a reference.

また、本発明の一実施形態に係る画像検出範囲設定プログラムは、上記の画像検出範囲設定方法をコンピュータに実行させるためのものである。   An image detection range setting program according to an embodiment of the present invention is for causing a computer to execute the above-described image detection range setting method.

本発明の一実施形態によれば、画像劣化の検出に掛かる時間を抑えるのに好適な画像検出範囲設定装置、画像検出範囲設定方法、画像検出範囲設定プログラム及び画像検出装置が提供される。   According to an embodiment of the present invention, there are provided an image detection range setting device, an image detection range setting method, an image detection range setting program, and an image detection device that are suitable for reducing the time taken to detect image degradation.

本発明の実施形態の撮影装置の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device of embodiment of this invention. 本発明の実施形態の撮影装置に備えられる像振れ補正装置の構成を概略的に示す図である。1 is a diagram schematically illustrating a configuration of an image shake correction apparatus provided in an imaging apparatus according to an embodiment of the present invention. 本発明の実施形態の撮影装置に備えられる像振れ補正装置の構成を概略的に示す図である。1 is a diagram schematically illustrating a configuration of an image shake correction apparatus provided in an imaging apparatus according to an embodiment of the present invention. 本発明の実施形態におけるLPF駆動の説明を補助する図である。It is a figure which assists description of the LPF drive in embodiment of this invention. 本発明の実施形態におけるシステムコントローラによる偽色検出フローを示す図である。It is a figure which shows the false color detection flow by the system controller in embodiment of this invention. 本発明の実施形態において撮影される被写体に関する図である。It is a figure regarding the to-be-photographed object image | photographed in embodiment of this invention. 本発明の実施形態において撮影される被写体に関する図である。It is a figure regarding the to-be-photographed object image | photographed in embodiment of this invention. 本発明の実施形態の色空間内においてプロットされる各色差信号を示す図である。It is a figure which shows each color difference signal plotted in the color space of embodiment of this invention. 本発明の実施形態において撮影される被写体を示す図(図9(a))と、撮影装置が備えるLCDの表示画面に表示されるライブビューを示す図(図9(b)及び図9(c))である。FIG. 9A shows a subject to be photographed in the embodiment of the present invention (FIG. 9A), and FIG. 9B and FIG. 9C show a live view displayed on a display screen of an LCD provided in the photographing apparatus. )). 本発明の実施形態において偽色検出の対象となる偽色検出対象画素を示す図である。It is a figure which shows the false color detection object pixel used as the object of false color detection in embodiment of this invention.

以下、本発明の実施形態の撮影装置について図面を参照しながら説明する。以下においては、本発明の一実施形態として、デジタル一眼レフカメラについて説明する。なお、撮影装置は、デジタル一眼レフカメラに限らず、例えば、ミラーレス一眼カメラ、コンパクトデジタルカメラ、ビデオカメラ、カムコーダ、タブレット端末、PHS(Personal Handy phone System)、スマートフォン、フィーチャフォン、携帯ゲーム機など、撮影機能を有する別の形態の装置に置き換えてもよい。   Hereinafter, a photographing apparatus according to an embodiment of the present invention will be described with reference to the drawings. In the following, a digital single lens reflex camera will be described as an embodiment of the present invention. Note that the photographing apparatus is not limited to a digital single lens reflex camera, but includes, for example, a mirrorless single lens camera, a compact digital camera, a video camera, a camcorder, a tablet terminal, a PHS (Personal Handy phone System), a smartphone, a feature phone, a portable game machine, and the like. The apparatus may be replaced with another type of apparatus having a photographing function.

[撮影装置1全体の構成]
図1は、本実施形態の撮影装置1の構成を示すブロック図である。図1に示されるように、撮影装置1は、システムコントローラ100、操作部102、駆動回路104、撮影レンズ106、絞り108、シャッタ110、像振れ補正装置112、信号処理回路114、画像処理エンジン116、バッファメモリ118、カード用インタフェース120、LCD(Liquid Crystal Display)制御回路122、LCD124、ROM(Read Only Memory)126、ジャイロセンサ128、加速度センサ130、地磁気センサ132及びGPS(Global Positioning System)センサ134を備えている。なお、撮影レンズ106は複数枚構成であるが、図1においては便宜上一枚のレンズとして示す。また、撮影レンズ106の光軸AXと同じ方向をZ軸方向と定義し、Z軸方向と直交し且つ互いに直交する二軸方向をそれぞれX軸方向(水平方向)、Y軸方向(垂直方向)と定義する。
[Configuration of the entire photographing apparatus 1]
FIG. 1 is a block diagram showing a configuration of the photographing apparatus 1 of the present embodiment. As shown in FIG. 1, the photographing apparatus 1 includes a system controller 100, an operation unit 102, a drive circuit 104, a photographing lens 106, a diaphragm 108, a shutter 110, an image shake correction device 112, a signal processing circuit 114, and an image processing engine 116. , Buffer memory 118, card interface 120, LCD (Liquid Crystal Display) control circuit 122, LCD 124, ROM (Read Only Memory) 126, gyro sensor 128, acceleration sensor 130, geomagnetic sensor 132, and GPS (Global Positioning System) sensor 134 It has. Although the photographing lens 106 has a plurality of lenses, it is shown as a single lens for convenience in FIG. Further, the same direction as the optical axis AX of the photographing lens 106 is defined as the Z-axis direction, and the two axial directions orthogonal to the Z-axis direction and orthogonal to each other are the X-axis direction (horizontal direction) and the Y-axis direction (vertical direction), respectively. It is defined as

操作部102には、電源スイッチやレリーズスイッチ、撮影モードスイッチなど、ユーザが撮影装置1を操作するために必要な各種スイッチが含まれる。ユーザにより電源スイッチが操作されると、図示省略されたバッテリから撮影装置1の各種回路に電源ラインを通じて電源供給が行われる。   The operation unit 102 includes various switches necessary for the user to operate the photographing apparatus 1, such as a power switch, a release switch, and a photographing mode switch. When the user operates the power switch, power is supplied from the battery (not shown) to the various circuits of the photographing apparatus 1 through the power line.

システムコントローラ100は、CPU(Central Processing Unit)及びDSP(Digital Signal Processor)を含む。システムコントローラ100は電源供給後、ROM126にアクセスして制御プログラムを読み出してワークエリア(不図示)にロードし、ロードされた制御プログラムを実行することにより、撮影装置1全体の制御を行う。   The system controller 100 includes a CPU (Central Processing Unit) and a DSP (Digital Signal Processor). After supplying power, the system controller 100 accesses the ROM 126, reads out a control program, loads it into a work area (not shown), and executes the loaded control program to control the entire photographing apparatus 1.

レリーズスイッチが操作されると、システムコントローラ100は、例えば、固体撮像素子112a(後述の図2参照)により撮像された画像に基づいて計算された測光値や、撮影装置1に内蔵された露出計(不図示)で測定された測光値に基づき適正露出が得られるように、駆動回路104を介して絞り108及びシャッタ110を駆動制御する。より詳細には、絞り108及びシャッタ110の駆動制御は、プログラムAE(Automatic Exposure)、シャッタ優先AE、絞り優先AEなど、撮影モードスイッチにより指定されるAE機能に基づいて行われる。また、システムコントローラ100はAE制御と併せてAF(Autofocus)制御を行う。AF制御には、アクティブ方式、位相差検出方式、像面位相差検出方式、コントラスト検出方式等が適用される。また、AFモードには、複数の測距エリアを用いた多点測距モード、全画面の距離情報に基づく全画面測距モード等がある。システムコントローラ100は、AF結果に基づいて駆動回路104を介して撮影レンズ106を駆動制御し、撮影レンズ106の焦点を調整する。なお、この種のAE及びAFの構成及び制御については周知であるため、ここでの詳細な説明は省略する。   When the release switch is operated, the system controller 100 detects, for example, a photometric value calculated based on an image captured by a solid-state imaging device 112a (see FIG. 2 described later) or an exposure meter built in the photographing apparatus 1. The diaphragm 108 and the shutter 110 are driven and controlled via the drive circuit 104 so that proper exposure is obtained based on the photometric value measured in (not shown). More specifically, drive control of the aperture 108 and the shutter 110 is performed based on an AE function designated by a shooting mode switch such as a program AE (Automatic Exposure), shutter priority AE, aperture priority AE, and the like. Further, the system controller 100 performs AF (Autofocus) control together with AE control. For AF control, an active method, a phase difference detection method, an image plane phase difference detection method, a contrast detection method, or the like is applied. The AF mode includes a multi-point distance measurement mode using a plurality of distance measurement areas, a full-screen distance measurement mode based on distance information on the entire screen, and the like. The system controller 100 controls driving of the photographing lens 106 via the driving circuit 104 based on the AF result, and adjusts the focus of the photographing lens 106. Since the configuration and control of this type of AE and AF are well known, detailed description thereof is omitted here.

図2及び図3は、像振れ補正装置112の構成を概略的に示す図である。図2及び図3に示されるように、像振れ補正装置112は、固体撮像素子112aを備えている。被写体からの光束は、撮影レンズ106、絞り108、シャッタ110を通過して固体撮像素子112aの受光面112aaにて受光される。なお、固体撮像素子112aの受光面112aaは、X軸及びY軸を含むXY平面である。固体撮像素子112aは、透過波長選択素子としてベイヤ型画素配置のカラーフィルタを有する単板式カラーCCD(Charge Coupled Device)イメージセンサである。固体撮像素子112aは、受光面112aa上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R(Red)、G(Green)、B(Blue)の画像信号を生成して出力する。なお、固体撮像素子112aは、CCDイメージセンサに限らず、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやその他の種類の撮像装置に置き換えられてもよい。固体撮像素子112aはまた、補色系フィルタを搭載したものであってもよいし、画素毎に何れかのカラーフィルタを配置していれば、ベイヤ配列等の周期的なカラー配列を有するフィルタである必要はない。   2 and 3 are diagrams schematically showing a configuration of the image blur correction device 112. FIG. As shown in FIGS. 2 and 3, the image blur correction device 112 includes a solid-state image sensor 112a. The light beam from the subject passes through the photographing lens 106, the diaphragm 108, and the shutter 110, and is received by the light receiving surface 112aa of the solid-state imaging device 112a. Note that the light receiving surface 112aa of the solid-state imaging device 112a is an XY plane including the X axis and the Y axis. The solid-state imaging device 112a is a single-plate color CCD (Charge Coupled Device) image sensor having a color filter with a Bayer pixel arrangement as a transmission wavelength selection device. The solid-state imaging device 112a accumulates an optical image formed by each pixel on the light receiving surface 112aa as a charge corresponding to the amount of light, and generates R (Red), G (Green), and B (Blue) image signals. Output. Note that the solid-state imaging device 112a is not limited to a CCD image sensor, and may be replaced with a complementary metal oxide semiconductor (CMOS) image sensor or other types of imaging devices. The solid-state imaging device 112a may be a filter having a complementary color filter, or a filter having a periodic color arrangement such as a Bayer arrangement if any color filter is arranged for each pixel. There is no need.

信号処理回路114は、固体撮像素子112aより入力される画像信号に対してクランプ、デモザイク(色補間)等の所定の信号処理を施して、画像処理エンジン116に出力する。画像処理エンジン116は、信号処理回路114より入力される画像信号に対してマトリクス演算、Y/C分離、ホワイトバランス等の所定の信号処理を施して輝度信号Y、色差信号Cb、Crを生成し、JPEG(Joint Photographic Experts Group)等の所定のフォーマットで圧縮する。バッファメモリ118は、画像処理エンジン116による処理の実行時、処理データの一時的な保存場所として用いられる。また、撮影画像の保存形式は、JPEG形式に限らず、最小限の画像処理(例えばクランプ)しか施されないRAW形式であってもよい。   The signal processing circuit 114 performs predetermined signal processing such as clamping and demosaicing (color interpolation) on the image signal input from the solid-state imaging device 112 a and outputs the processed signal to the image processing engine 116. The image processing engine 116 performs predetermined signal processing such as matrix operation, Y / C separation, and white balance on the image signal input from the signal processing circuit 114 to generate a luminance signal Y and color difference signals Cb and Cr. , And compressed in a predetermined format such as JPEG (Joint Photographic Experts Group). The buffer memory 118 is used as a temporary storage location for processing data when the image processing engine 116 executes processing. The captured image storage format is not limited to the JPEG format, and may be a RAW format in which minimal image processing (for example, clamping) is performed.

カード用インタフェース120のカードスロットには、メモリカード200が着脱可能に差し込まれている。   A memory card 200 is detachably inserted into a card slot of the card interface 120.

画像処理エンジン116は、カード用インタフェース120を介してメモリカード200と通信可能である。画像処理エンジン116は、生成された圧縮画像信号(撮影画像データ)をメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存する。   The image processing engine 116 can communicate with the memory card 200 via the card interface 120. The image processing engine 116 stores the generated compressed image signal (captured image data) in the memory card 200 (or a built-in memory (not shown) provided in the image capturing apparatus 1).

また、画像処理エンジン116は、生成された輝度信号Y、色差信号Cb、Crをフレームメモリ(不図示)にフレーム単位でバッファリングする。画像処理エンジン116は、バッファリングされた信号を所定のタイミングで各フレームメモリから掃き出して所定のフォーマットのビデオ信号に変換し、LCD制御回路122に出力する。LCD制御回路122は、画像処理エンジン116より入力される画像信号を基に液晶を変調制御する。これにより、被写体の撮影画像がLCD124の表示画面に表示される。ユーザは、AE制御及びAF制御に基づいて適正な輝度及びピントで撮影されたリアルタイムのスルー画(ライブビュー)を、LCD124の表示画面を通じて視認することができる。   Further, the image processing engine 116 buffers the generated luminance signal Y and color difference signals Cb and Cr in a frame memory (not shown) in units of frames. The image processing engine 116 sweeps the buffered signal from each frame memory at a predetermined timing, converts it into a video signal of a predetermined format, and outputs it to the LCD control circuit 122. The LCD control circuit 122 modulates and controls the liquid crystal based on the image signal input from the image processing engine 116. Thereby, the photographed image of the subject is displayed on the display screen of the LCD 124. The user can view through a display screen of the LCD 124 a real-time through image (live view) captured with appropriate brightness and focus based on AE control and AF control.

画像処理エンジン116は、ユーザにより撮影画像の再生操作が行われると、操作により指定された撮影画像データをメモリカード200又は内蔵メモリより読み出して所定のフォーマットの画像信号に変換し、LCD制御回路122に出力する。LCD制御回路122が画像処理エンジン116より入力される画像信号を基に液晶を変調制御することで、被写体の撮影画像がLCD124の表示画面に表示される。   When the user performs a reproduction operation of the photographed image, the image processing engine 116 reads the photographed image data designated by the operation from the memory card 200 or the built-in memory, converts it into an image signal of a predetermined format, and the LCD control circuit 122. Output to. The LCD control circuit 122 performs modulation control on the liquid crystal based on the image signal input from the image processing engine 116, so that a captured image of the subject is displayed on the display screen of the LCD 124.

[振れ補正部材の駆動に関する説明]
像振れ補正装置112は、振れ補正部材を駆動させる。本実施形態において、振れ補正部材は、固体撮像素子112aである。なお、振れ補正部材は、固体撮像素子112aに限らず、撮影レンズ106内に含まれる一部のレンズなど、光軸AXを基準として物理的に動かされることにより、固体撮像素子112aの受光面112aa上での被写体像の入射位置をシフトさせることが可能な別の構成であってもよく、又は、これらと固体撮像素子112aのうち2つ以上の部材を組み合わせた構成であってもよい。
[Explanation regarding the drive of the shake correction member]
The image shake correction device 112 drives a shake correction member. In the present embodiment, the shake correction member is the solid-state image sensor 112a. Note that the shake correction member is not limited to the solid-state image sensor 112a, but is partially moved with respect to the optical axis AX, such as a part of lenses included in the photographing lens 106, so that the light-receiving surface 112aa of the solid-state image sensor 112a. Another configuration capable of shifting the incident position of the subject image above may be used, or a configuration in which two or more members of these and the solid-state imaging device 112a are combined may be used.

像振れ補正装置112は、像振れを補正するために振れ補正部材を光軸AXと直交する平面内(すなわち、XY平面内)で微小に駆動(振動)させるだけでなく、被写体像が画素ピッチ分ぼかされることによる光学的なローパスフィルタ(LPF:Low Pass Filter)効果(偽色等のモアレの軽減)が得られるように振れ補正部材を光軸AXと直交する平面内で微小に駆動(微小回転)させる。以下、説明の便宜上、振れ補正部材を像振れ補正で駆動させることを「像振れ補正駆動」と記し、振れ補正部材を光学的なLPFと同様の効果が得られるように駆動させることを「LPF駆動」と記す。   The image blur correction device 112 not only slightly drives (vibrates) the blur correction member in a plane orthogonal to the optical axis AX (that is, in the XY plane) in order to correct the image blur. The shake correction member is driven minutely in a plane orthogonal to the optical axis AX so that an optical low pass filter (LPF) effect (reduction of moiré such as false color) can be obtained. Rotate). Hereinafter, for convenience of description, driving the shake correction member with image shake correction is referred to as “image shake correction drive”, and driving the shake correction member so as to obtain the same effect as an optical LPF is referred to as “LPF”. "Drive".

(像振れ補正駆動に関する説明)
ジャイロセンサ128は、像振れ補正を制御するための情報を検出するセンサである。具体的には、ジャイロセンサ128は、撮影装置1に加わる二軸周り(X軸周り、Y軸周り)の角速度を検出し、検出された二軸周りの角速度をXY平面内(換言すると、固体撮像素子112aの受光面112aa内)の振れを示す振れ検出信号としてシステムコントローラ100に出力する。
(Explanation on image blur correction drive)
The gyro sensor 128 is a sensor that detects information for controlling image blur correction. Specifically, the gyro sensor 128 detects angular velocities around the two axes (around the X axis and around the Y axis) applied to the imaging apparatus 1, and the detected angular velocities around the two axes are within the XY plane (in other words, a solid state This is output to the system controller 100 as a shake detection signal indicating the shake of the light receiving surface 112aa of the image sensor 112a.

図2及び図3に示されるように、像振れ補正装置112は、撮影装置1が備えるシャーシ等の構造物に固定された固定支持基板112bを備えている。固定支持基板112bは、固体撮像素子112aが搭載された可動ステージ112cをスライド可能に支持している。   As shown in FIGS. 2 and 3, the image blur correction device 112 includes a fixed support substrate 112 b fixed to a structure such as a chassis included in the photographing device 1. The fixed support substrate 112b slidably supports the movable stage 112c on which the solid-state imaging device 112a is mounted.

可動ステージ112cと対向する固定支持基板112bの面上には、磁石MYR、MYL、MXD、MXUが取り付けられている。また、固定支持基板112bには、磁性体であるヨークYYR、YYL、YXD、YXUが取り付けられている。ヨークYYR、YYL、YXD、YXUはそれぞれ、固定支持基板112bから可動ステージ112cを回り込んで磁石MYR、MYL、MXD、MXUと対向する位置まで延びた形状を持ち、磁石MYR、MYL、MXD、MXUとの間に磁気回路を構成する。また、可動ステージ112cには、駆動用コイルCYR、CYL、CXD、CXUが取り付けられている。駆動用コイルCYR、CYL、CXD、CXUが磁気回路の磁界内において電流を受けることにより、駆動力が発生する。可動ステージ112c(固体撮像素子112a)は、発生した駆動力により、固定支持基板112bに対してXY平面内で微小に駆動される。 Magnets M YR , M YL , M XD , and M XU are attached on the surface of the fixed support substrate 112 b facing the movable stage 112 c. In addition, yokes Y YR , Y YL , Y XD , and Y XU that are magnetic bodies are attached to the fixed support substrate 112b. The yokes Y YR , Y YL , Y XD , and Y XU each have a shape that extends from the fixed support substrate 112 b to the position facing the magnets M YR , M YL , M XD , and M XU around the movable stage 112 c, A magnetic circuit is formed between the magnets M YR , M YL , M XD , and M XU . In addition, driving coils C YR , C YL , C XD , and C XU are attached to the movable stage 112c. When the driving coils C YR , C YL , C XD , and C XU receive a current in the magnetic field of the magnetic circuit, a driving force is generated. The movable stage 112c (solid-state imaging device 112a) is minutely driven in the XY plane with respect to the fixed support substrate 112b by the generated driving force.

対応する磁石、ヨーク及び駆動用コイルはボイスコイルモータを構成する。以下、便宜上、磁石MYR、ヨークYYR及び駆動用コイルCYRよりなるボイスコイルモータに符号VCMYRを付し、磁石MYL、ヨークYYL及び駆動用コイルCYLよりなるボイスコイルモータに符号VCMYLを付し、磁石MXD、ヨークYXD及び駆動用コイルCXDよりなるボイスコイルモータに符号VCMXDを付し、磁石MXU、ヨークYXU及び駆動用コイルCXUよりなるボイスコイルモータに符号VCMXUを付す。 Corresponding magnets, yokes and driving coils constitute a voice coil motor. Hereinafter, for the sake of convenience, a reference numeral VCM YR is given to a voice coil motor made up of a magnet M YR , a yoke Y YR and a driving coil C YR , and a voice coil motor made up of a magnet M YL , a yoke Y YL and a driving coil C YL is called up. given the VCM YL, a voice coil motor reference numeral VCM XD magnet M XD, the voice coil motor consisting of a yoke Y XD and the driving coil C XD, consisting of the magnet M XU, yoke Y XU and the driving coil C XU The symbol VCM XU is appended.

各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXU(駆動用コイルCYR、CYL、CXD、CXU)は、システムコントローラ100の制御下でPWM(Pulse Width Modulation)駆動される。ボイスコイルモータVCMYRとVCMYLは、固体撮像素子112aの下方であって、水平方向(X軸方向)に所定の間隔を空けて並べて配置されており、ボイスコイルモータVCMXDとVCMXUは、固体撮像素子112aの側方であって、垂直方向(Y軸方向)に所定の間隔を空けて並べて配置されている。 Each voice coil motor VCM YR , VCM YL , VCM XD , VCM XU (driving coils C YR , C YL , C XD , C XU ) is PWM (Pulse Width Modulation) driven under the control of the system controller 100. The voice coil motors VCM YR and VCM YL are arranged below the solid-state image sensor 112a and arranged side by side with a predetermined interval in the horizontal direction (X-axis direction). The voice coil motors VCM XD and VCM XU are On the side of the solid-state image sensor 112a, they are arranged side by side with a predetermined interval in the vertical direction (Y-axis direction).

固定支持基板112b上であって駆動用コイルCYR、CYL、CXD、CXUの各近傍位置には、ホール素子HYR、HYL、HXD、HXUが取り付けられている。ホール素子HYR、HYL、HXD、HXUはそれぞれ、磁石MYR、MYL、MXD、MXUの磁力を検出して、可動ステージ112c(固体撮像素子112a)のXY平面内の位置を示す位置検出信号をシステムコントローラ100に出力する。具体的には、ホール素子HYR及びHYLにより可動ステージ112c(固体撮像素子112a)のY軸方向位置及び傾き(回転)が検出され、ホール素子HXD及びHXUにより可動ステージ112c(固体撮像素子112a)のX軸方向位置及び傾き(回転)が検出される。 Hall elements H YR , H YL , H XD , and H XU are attached to the positions near the driving coils C YR , C YL , C XD , and C XU on the fixed support substrate 112b. The Hall elements H YR , H YL , H XD , and H XU detect the magnetic forces of the magnets M YR , M YL , M XD , and M XU , respectively, and the position of the movable stage 112 c (solid-state imaging element 112 a) in the XY plane. Is output to the system controller 100. Specifically, the Y-axis direction position and tilt (rotation) of the movable stage 112c (solid-state imaging device 112a) are detected by the Hall elements H YR and H YL , and the movable stage 112c (solid-state imaging) is detected by the Hall elements H XD and H XU. The X-axis direction position and inclination (rotation) of the element 112a) are detected.

システムコントローラ100は、ボイスコイルモータ用のドライバICを内蔵している。システムコントローラ100は、ジャイロセンサ128より出力される振れ検出信号及びホール素子HYR、HYL、HXD、HXUより出力される位置検出信号に基づいて、ドライバICの定格電力(許容電力)を超えない範囲内において各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXU(駆動用コイルCYR、CYL、CXD、CXU)に流す電流のバランスを崩さないようにデューティ比を計算する。システムコントローラ100は、計算されたデューティ比で各ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXUに駆動電流を流し、固体撮像素子112aを像振れ補正駆動する。これにより、固体撮像素子112aが重力や外乱等に抗して規定の位置に保持されつつ固体撮像素子112aの受光面112aa上での像振れが補正(別の言い方によれば、受光面112aa上での被写体像の入射位置が振れないように固体撮像素子112aの位置が調整)される。 The system controller 100 includes a driver IC for a voice coil motor. The system controller 100 determines the rated power (allowable power) of the driver IC based on the shake detection signal output from the gyro sensor 128 and the position detection signal output from the Hall elements H YR , H YL , H XD , and H XU. Calculate the duty ratio so as not to disturb the balance of the currents flowing through the voice coil motors VCM YR , VCM YL , VCM XD , VCM XU (drive coils C YR , C YL , C XD , C XU ) within the range not exceeding To do. The system controller 100 sends a drive current to each of the voice coil motors VCM YR , VCM YL , VCM XD , and VCM XU with the calculated duty ratio to drive the solid-state imaging device 112 a with image blur correction. As a result, the image blur on the light receiving surface 112aa of the solid-state image sensor 112a is corrected while the solid-state image sensor 112a is held at a predetermined position against gravity, disturbance, or the like (in other words, on the light receiving surface 112aa). The position of the solid-state imaging device 112a is adjusted so that the incident position of the subject image does not fluctuate.

(LPF駆動に関する説明)
次に、LPF駆動に関する説明を行う。本実施形態において、像振れ補正装置112は、ボイスコイルモータVCMYR、VCMYL、VCMXD、VCMXUに所定の駆動電流を流すことにより、一回の露光期間に対して、XY平面内において所定の軌跡を描くように可動ステージ112c(固体撮像素子112a)を駆動して、被写体像を固体撮像素子112aの検出色(R、G又はB)の異なる複数の画素に入射させる。これにより、光学的なLPFと同様の効果が得られる。
(Explanation regarding LPF drive)
Next, the LPF driving will be described. In the present embodiment, the image blur correction device 112 causes a predetermined drive current to flow through the voice coil motors VCM YR , VCM YL , VCM XD , and VCM XU , so that the image shake correction device 112 is predetermined in the XY plane for one exposure period. The movable stage 112c (solid-state image sensor 112a) is driven so as to draw a trajectory, and the subject image is incident on a plurality of pixels having different detection colors (R, G, or B) of the solid-state image sensor 112a. Thereby, the same effect as an optical LPF can be obtained.

図4(a)、図4(b)は、LPF駆動の説明を補助する図である。同図に示されるように、固体撮像素子112aの受光面112aa上には、複数の画素PIXが所定の画素ピッチPでマトリックス状に並べて配置されている。説明の便宜上、同図の各画素PIXについて、前面に配置されたフィルタ色に対応させて符号(R、G、Bの何れか1つ)を付す。   4 (a) and 4 (b) are diagrams for assisting the description of the LPF drive. As shown in the figure, on the light receiving surface 112aa of the solid-state imaging device 112a, a plurality of pixels PIX are arranged in a matrix at a predetermined pixel pitch P. For convenience of explanation, each pixel PIX in the figure is given a reference (any one of R, G, and B) corresponding to the filter color arranged on the front surface.

図4(a)は、固体撮像素子112aが光軸AXを中心とする正方形軌跡を描くように駆動される例を示す。この正方形軌跡は、例えば固体撮像素子112aの画素ピッチPを一辺とした正方形の閉じた経路とすることができる。図4(a)の例では、固体撮像素子112aは、X軸方向とY軸方向とに1画素ピッチP単位で交互に且つ正方形経路となるように駆動される。   FIG. 4A shows an example in which the solid-state imaging device 112a is driven so as to draw a square locus centered on the optical axis AX. For example, the square locus can be a square closed path with the pixel pitch P of the solid-state imaging element 112a as one side. In the example of FIG. 4A, the solid-state imaging device 112a is driven so as to form a square path alternately in units of one pixel pitch P in the X-axis direction and the Y-axis direction.

図4(b)は、固体撮像素子112aが光軸AXを中心とする回転対称な円形軌跡を描くように駆動される例を示す。この円形軌跡は、例えば固体撮像素子112aの画素ピッチPの√2/2倍を半径rとする円形の閉じた経路とすることができる。   FIG. 4B shows an example in which the solid-state imaging device 112a is driven to draw a rotationally symmetric circular locus centering on the optical axis AX. This circular locus can be a closed circular path having a radius r of √2 / 2 times the pixel pitch P of the solid-state image sensor 112a, for example.

なお、画素ピッチPを含む駆動軌跡の情報は、システムコントローラ100の内部メモリ又はROM126に予め保持されている。   Note that information on the driving locus including the pixel pitch P is stored in advance in the internal memory of the system controller 100 or the ROM 126.

図4(a)(又は図4(b))に例示されるように、露光期間中、固体撮像素子112aが駆動軌跡の情報に基づいて所定の正方形軌跡(又は円形軌跡)を描くように駆動されると、被写体像が4つのカラーフィルタR、G、B、G(4つ(二行二列)の画素PIX)に均等に入射される。これにより、光学的なLPFと同等の効果が得られる。すなわち、何れのカラーフィルタ(画素PIX)に入射された被写体像も、その周辺のカラーフィルタ(画素PIX)に必ず入射されるため、恰も光学的なLPFを被写体像が通過したときと同等の効果(偽色等のモアレの軽減)が得られる。   As illustrated in FIG. 4A (or FIG. 4B), during the exposure period, the solid-state imaging device 112a is driven to draw a predetermined square locus (or circular locus) based on the information of the drive locus. Then, the subject image is uniformly incident on the four color filters R, G, B, and G (four (two rows and two columns) pixels PIX). Thereby, an effect equivalent to that of an optical LPF can be obtained. In other words, since the subject image incident on any color filter (pixel PIX) is necessarily incident on the surrounding color filter (pixel PIX), the same effect as when the subject image passes through the optical LPF. (Reduction of moiré such as false color) is obtained.

なお、ユーザは、操作部102を操作することにより、像振れ補正駆動、LPF駆動のそれぞれのオン/オフを切り替えることができる。   Note that the user can switch on / off of image blur correction driving and LPF driving by operating the operation unit 102.

[偽色の検出に関する説明]
次に、本実施形態において撮影画像内に発生する、モアレの一種である偽色を検出する方法について説明する。図5は、システムコントローラ100により実行される偽色検出フローを示す。図5に示される偽色検出フローは、例えば、レリーズスイッチが押された時点で開始される。
[Explanation about false color detection]
Next, a method for detecting a false color, which is a kind of moire, that occurs in a captured image in the present embodiment will be described. FIG. 5 shows a false color detection flow executed by the system controller 100. The false color detection flow shown in FIG. 5 is started when the release switch is pressed, for example.

[図5のS11(状態の判定)]
本処理ステップS11では、撮影装置1が静止状態であるか否かが判定される。例示的には、ジャイロセンサ128より入力される振れ検出信号のうち一定周波数以上の信号成分の振幅が一定期間継続してある閾値以内に収まる場合に静止状態と判定される。撮影装置1の静止状態として、典型的には、撮影装置1が三脚に固定された状態が挙げられる。なお、静止状態を含めた撮影装置1の姿勢はジャイロセンサ128に代えて、加速度センサ130、地磁気センサ132、GPSセンサ134など、他のセンサより出力される情報を用いて検出されてもよい。また、検出精度を向上させるため、例えばセンサ・フュージョン技術を適用し、これらのセンサより出力される情報が複合的に用いられるようにしてもよい。
[S11 in FIG. 5 (state determination)]
In this processing step S11, it is determined whether or not the photographing apparatus 1 is in a stationary state. Illustratively, when the amplitude of a signal component having a frequency equal to or higher than a certain frequency among the vibration detection signals input from the gyro sensor 128 is within a certain threshold continuously for a certain period, it is determined to be in a stationary state. A typical example of the stationary state of the photographing apparatus 1 is a state in which the photographing apparatus 1 is fixed to a tripod. Note that the posture of the photographing apparatus 1 including the stationary state may be detected using information output from other sensors such as the acceleration sensor 130, the geomagnetic sensor 132, and the GPS sensor 134 instead of the gyro sensor 128. In order to improve the detection accuracy, for example, sensor fusion technology may be applied so that information output from these sensors may be used in combination.

撮影装置1が低速シャッタスピード設定下の手持ち撮影状態など、静止状態にない場合は、手振れ(あるいは被写体ぶれ)による被写体のボケに起因して偽色がそもそも発生し難い。従って、本実施形態では、撮影装置1が静止状態である(すなわち、偽色が発生しやすい状態である)と判定された場合に限り(S11:YES)、撮影画像内の偽色を検出すべく、処理ステップS12(第一画像の撮影)以降が実行される。撮影装置1が静止状態にない場合は、処理ステップS12(第一画像の撮影)以降が実行されないため、システムコントローラ100の処理負荷が軽減される。処理ステップS12(第一画像の撮影)以降が実行されない旨は、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。なお、撮影画像内の偽色の検出を重視したい場合は、撮影装置1が静止状態であるか否かに拘わらず処理ステップS12(第一画像の撮影)以降が実行されてもよい。この場合、処理ステップS12(第一画像の撮影)以降が実行される旨は、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。また、静止状態の判定閾値は撮影装置1に設定されたシャッタスピードに応じて変更されてもよい。   When the photographing apparatus 1 is not in a stationary state, such as a hand-held photographing state with a low shutter speed setting, a false color is unlikely to occur in the first place due to blurring of the subject due to camera shake (or subject shake). Therefore, in this embodiment, only when it is determined that the photographing apparatus 1 is in a stationary state (that is, in a state in which false color is likely to occur) (S11: YES), the false color in the photographed image is detected. Therefore, processing step S12 (photographing of the first image) and subsequent steps are executed. When the photographing apparatus 1 is not in a stationary state, the processing load of the system controller 100 is reduced because the processing step S12 (first image photographing) and subsequent steps are not executed. The photographer may be notified, for example, via the display screen of the LCD 124 that the processing step S12 (photographing the first image) and subsequent steps are not executed. Note that, when it is important to detect the false color in the photographed image, the processing step S12 (photographing the first image) and subsequent steps may be executed regardless of whether or not the photographing apparatus 1 is in a stationary state. In this case, the photographer may be notified through the display screen of the LCD 124 that the processing step S12 (photographing the first image) and subsequent steps are executed. Further, the determination threshold value for the still state may be changed according to the shutter speed set in the photographing apparatus 1.

[図5のS12(第一画像の撮影)]
図9(a)は、撮影される被写体の全体を示す。また、図6(a)、図7(a)は、図9(a)に示される被写体の一部(例えば人物が着用している衣服のしわ)であって、それぞれ異なる部分を拡大して示す図である。図6(a)に示される被写体は、固体撮像素子112aの画素PIXの画素ピッチPと同ピッチで明暗が交互に現れる斜め縞模様であり、図7(a)に示される被写体は、画素ピッチPと同ピッチで明暗が交互に現れる縦縞模様である。説明の便宜上、図6(a)に示される被写体のうち太実線で囲まれた6×6マスの被写体を「斜め縞被写体6a」と記し、図7(a)に示される被写体のうち太実線で囲まれた6×6マスの被写体を「縦縞被写体7a」と記す。
[S12 in FIG. 5 (capturing the first image)]
FIG. 9A shows the entire subject to be photographed. 6 (a) and 7 (a) are a part of the subject shown in FIG. 9 (a) (for example, wrinkles of clothes worn by a person), each of which is enlarged. FIG. The subject shown in FIG. 6A is an oblique stripe pattern in which light and dark appear alternately at the same pitch as the pixel pitch P of the pixel PIX of the solid-state image sensor 112a. The subject shown in FIG. It is a vertical stripe pattern in which light and dark appear alternately at the same pitch as P. For convenience of explanation, a 6 × 6 square subject surrounded by a thick solid line among the subjects shown in FIG. 6A is referred to as “obliquely striped subject 6a”, and a thick solid line among the subjects shown in FIG. 7A. The subject of 6 × 6 square surrounded by is denoted as “vertical stripe subject 7a”.

本処理ステップS12では、AE制御及びAF制御に基づいて適正な輝度及びピントで被写体画像(第一画像)が撮影される。ここでは、斜め縞被写体6aと縦縞被写体7aの何れにもピントが合っているものとする。   In this processing step S12, a subject image (first image) is taken with appropriate brightness and focus based on AE control and AF control. Here, it is assumed that both the diagonally striped subject 6a and the vertically striped subject 7a are in focus.

図6(b)、図7(b)はそれぞれ、固体撮像素子112aの各画素PIXに取り込まれる斜め縞被写体6a、縦縞被写体7aを模式的に示す図であり、固体撮像素子112aの受光面112aaを被写体側から正面視した図である。図6(b)及び図7(b)では、図4と同様に、各画素PIXについて、前面に配置されたフィルタ色に対応させて符号(R、G、Bの何れか1つ)を付す。図6(b)、図7(b)の各図中、黒塗りの画素PIXは、縞模様の暗部分を取り込んだことを示し、白塗りの画素PIXは、縞模様の明部分を取り込んだことを示す。また、説明の便宜上、図6(b)、図7(b)の各図に画素のアドレス(数字1〜8、符号イ〜チ)を付す。なお、厳密には、撮影レンズ106の結像作用によって、被写体は上下左右が反転した状態で固体撮像素子112a上に結像される。一例として、「斜め縞被写体6a」の左上角の部分は、固体撮像素子112a上では右下角の部分として結像する。しかし、本実施形態では、説明の煩雑化を避けるため、「斜め縞被写体6a」の左上角の部分は、図6(b)の左上角の部分に対応するものとして説明する。   FIGS. 6B and 7B are diagrams schematically showing the oblique stripe subject 6a and the vertical stripe subject 7a taken into each pixel PIX of the solid-state image sensor 112a, respectively, and the light receiving surface 112aa of the solid-state image sensor 112a. Is a front view from the subject side. In FIG. 6B and FIG. 7B, as in FIG. 4, each pixel PIX is assigned a code (any one of R, G, and B) corresponding to the filter color arranged on the front surface. . In each of FIGS. 6B and 7B, the black pixel PIX indicates that the dark portion of the striped pattern has been captured, and the white pixel PIX has captured the bright portion of the striped pattern. It shows that. For convenience of explanation, pixel addresses (numerals 1 to 8, symbols 1 to 1) are attached to the diagrams of FIGS. 6B and 7B. Strictly speaking, the subject is imaged on the solid-state imaging device 112a by the imaging action of the photographic lens 106 in a state where the subject is turned upside down. As an example, the upper left corner portion of the “obliquely striped subject 6a” forms an image as the lower right corner portion on the solid-state imaging device 112a. However, in this embodiment, in order to avoid complication of explanation, the upper left corner portion of the “obliquely striped subject 6a” is described as corresponding to the upper left corner portion of FIG.

[図5のS13(第一の合焦エリア情報の保存)]
図9(b)に、処理ステップS12(第一画像の撮影)における第一画像の撮影の際にLCD124の表示画面に表示されるライブビューを例示する。システムコントローラ100は、第一画像の撮影の際、AF結果(画像内の合焦情報)に基づいてピントが合っているとみなせる範囲(合焦エリアであり、例示的には被写界深度に収まる範囲)を検出し、検出された合焦エリア(図9(b)の例では、符号FA1〜FA7)をライブビューにOSD(On Screen Display)で表示する。本処理ステップS13では、第一画像の撮影時における合焦エリアの情報(以下、「第一の合焦エリア情報」と記す。)が例えばシステムコントローラ100の内部メモリに保存される。
[S13 in FIG. 5 (saving first focus area information)]
FIG. 9B illustrates a live view displayed on the display screen of the LCD 124 when the first image is captured in the processing step S12 (capturing the first image). The system controller 100 is a range that can be regarded as in focus on the basis of the AF result (focus information in the image) when the first image is captured. And the detected focus area (in the example of FIG. 9B, symbols FA1 to FA7) is displayed on the live view by OSD (On Screen Display). In this processing step S13, information on the focus area at the time of shooting the first image (hereinafter referred to as “first focus area information”) is stored in the internal memory of the system controller 100, for example.

[図5のS14(固体撮像素子112aのシフト)]
本処理ステップS14は、可動ステージ112cが駆動されて、固体撮像素子112aが1画素分の距離だけ右方向(図6のX軸の矢じり側の方向)にシフトされる。
[S14 in FIG. 5 (shift of the solid-state imaging device 112a)]
In this processing step S14, the movable stage 112c is driven, and the solid-state imaging device 112a is shifted rightward (the direction of the arrow on the X axis in FIG. 6) by a distance of one pixel.

[図5のS15(第二画像の撮影)]
本処理ステップS15においても、第一画像撮影時のAE制御及びAF制御に基づいて被写体画像(第二画像)が撮影される。第二画像の撮影完了後、第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されてもよい。
[S15 in FIG. 5 (Taking Second Image)]
Also in this processing step S15, the subject image (second image) is captured based on the AE control and AF control at the time of capturing the first image. After the second image is captured, the photographer may be notified that the false color detection process using the first image and the second image is to be started.

図6(c)、図7(c)はそれぞれ、図6(b)、図7(b)と同様の図であり、固体撮像素子112aの各画素PIXの取り込まれる斜め縞被写体6a、縦縞被写体7aを模式的に示す。図6、図7の各図(b)、(c)に示されるように、固体撮像素子112aの受光面112aa上での被写体像の入射位置は、処理ステップS14(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量に応じて(受光面112aa上で左方向に1画素分の距離だけ)シフトする。   6 (c) and 7 (c) are similar to FIGS. 6 (b) and 7 (b), respectively, and the diagonally striped subject 6a and the vertically striped subject captured by each pixel PIX of the solid-state imaging device 112a. 7a is shown schematically. As shown in FIGS. 6B and 7B, the incident position of the subject image on the light receiving surface 112aa of the solid-state image sensor 112a is determined by processing step S14 (shift of the solid-state image sensor 112a). Is shifted by a distance corresponding to one pixel in the left direction on the light receiving surface 112aa.

附言するに、本処理ステップS15における撮影条件は、処理ステップS12(第一画像の撮影)における撮影時に対して、固体撮像素子112aが1画素分の距離だけ右方向にシフトされた点以外は同一である。そのため、第二画像は、実質的に、第一画像に対して1画素分右方向にシフトした範囲を撮影したものとなっている。図6、図7の各図(b)、(c)から判るように、第二画像において、被写体は、第一画像に対して全体的に1画素分の距離だけ左方向にシフトした位置に写る。   In addition, the shooting conditions in this processing step S15 are other than that the solid-state imaging device 112a is shifted to the right by a distance of one pixel with respect to the shooting in the processing step S12 (first image shooting). Are the same. For this reason, the second image is substantially a photograph of a range shifted to the right by one pixel with respect to the first image. As can be seen from FIGS. 6B and 7B, in the second image, the subject is shifted to the left by a distance of one pixel as a whole with respect to the first image. It is reflected.

[図5のS16(第二の合焦エリア情報の保存)]
図9(c)に、処理ステップS15(第二画像の撮影)における第二画像の撮影の際にLCD124の表示画面に表示されるライブビューを例示する。システムコントローラ100は、第二画像の撮影の際、AF結果(画像内の合焦情報)に基づいて合焦エリアを検出し、検出された合焦エリア(図9(c)の例では、符号FA1’〜FA7’)をライブビューにOSDで表示する。本処理ステップS16では、第二画像の撮影時における合焦エリアの情報(以下、「第二の合焦エリア情報」と記す。)が例えばシステムコントローラ100の内部メモリに保存される。
[S16 in FIG. 5 (saving second focus area information)]
FIG. 9C illustrates a live view displayed on the display screen of the LCD 124 when the second image is captured in the processing step S15 (second image capturing). The system controller 100 detects the in-focus area based on the AF result (in-focus information in the image) at the time of capturing the second image, and in the example of FIG. FA1 ′ to FA7 ′) are displayed on the live view by OSD. In this processing step S16, information on the in-focus area at the time of shooting the second image (hereinafter referred to as “second in-focus area information”) is stored in the internal memory of the system controller 100, for example.

処理ステップS12(第一画像の撮影)にて撮影された第一画像、処理ステップS15(第二画像の撮影)にて撮影された第二画像の何れの画像信号も、上述した信号処理(クランプ、デモザイク、マトリクス演算、Y/C分離、ホワイトバランス等)が施されて、輝度信号Y、色差信号Cb、Crに変換される。以下、説明の便宜上、処理ステップS12(第一画像の撮影)にて撮影された第一画像の色差信号(Cb、Cr)を「第一色差信号」と記し、処理ステップS15(第二画像の撮影)にて撮影された第二画像の色差信号(Cb、Cr)を「第二色差信号」と記す。また、「注目画素」とは、少なくともデモザイク処理された後の各画像の画素を指すものとする。   The signal processing (clamping) of the first image taken in the processing step S12 (photographing the first image) and the second image taken in the processing step S15 (photographing the second image) are both described above. , Demosaic, matrix calculation, Y / C separation, white balance, etc.), and converted into a luminance signal Y and color difference signals Cb, Cr. Hereinafter, for convenience of explanation, the color difference signals (Cb, Cr) of the first image captured in the processing step S12 (capturing the first image) will be referred to as “first color difference signals”, and the processing step S15 (the second image of the second image). The color difference signals (Cb, Cr) of the second image taken in (shooting) are referred to as “second color difference signals”. The “target pixel” refers to a pixel of each image after at least demosaic processing.

[図5のS17(電気的なLPF処理)]
本実施形態では、詳しくは後述するが、第一色差信号と第二色差信号との信号差分値や信号加算値に基づいて偽色の発生が検出される。しかし、コントラストの高いエッジ部分では、偽色が発生していなくても、第一色差信号と第二色差信号との信号差分値が大きくなることがある。この場合、エッジ部分において偽色が発生していると誤検出される虞がある。また、詳しくは後述するが、信号差分値や信号加算値の演算に用いられる第一色差信号と第二色差信号は、同一の被写体像を写す画素の色差信号ではあるが、処理ステップS14(固体撮像素子112aのシフト)にて固体撮像素子112aがシフトされたことが原因で、それぞれ、アドレスが異なる画素を用いてデモザイク処理されている。そのため、第一色差信号と第二色差信号は、同一の被写体像を写す画素の色差信号であるにも拘わらず色情報が極僅かに異なる場合がある。そこで、本処理ステップS17では、画像信号(輝度信号Y、色差信号Cb、Cr)に対してLPF処理が施される。LPF処理によって画像がぼかされることで、エッジ部分における偽色の誤検出が抑えられると共に第一色差信号と第二色差信号との色情報の誤差が抑えられる。
[S17 in FIG. 5 (electrical LPF processing)]
In the present embodiment, although described in detail later, the occurrence of false colors is detected based on the signal difference value or signal addition value between the first color difference signal and the second color difference signal. However, at the edge portion with high contrast, the signal difference value between the first color difference signal and the second color difference signal may be large even if a false color is not generated. In this case, there is a risk of false detection that a false color has occurred in the edge portion. As will be described in detail later, the first color difference signal and the second color difference signal used for the calculation of the signal difference value and the signal addition value are the color difference signals of the pixels that capture the same subject image. Due to the fact that the solid-state image sensor 112a is shifted by the shift of the image sensor 112a), demosaic processing is performed using pixels having different addresses. For this reason, the first color difference signal and the second color difference signal may be slightly different in color information even though they are color difference signals of pixels that capture the same subject image. Therefore, in this processing step S17, LPF processing is performed on the image signal (luminance signal Y, color difference signals Cb, Cr). By blurring the image by the LPF processing, false detection of false colors at the edge portion is suppressed, and errors in color information between the first color difference signal and the second color difference signal are suppressed.

[図5のS18(アドレスの変換)]
本処理ステップS18では、偽色の検出精度を向上させるため、同一の被写体像が同一アドレスの画素に入射されたものとして処理されるように、処理ステップS15(第二画像の撮影)にて撮影された第二画像を構成する各画素のアドレスが、処理ステップS14(固体撮像素子112aのシフト)における固体撮像素子112aのシフト量(換言すると、固体撮像素子112aの受光面112aa上での被写体像の入射位置のシフト量)に応じて変換される。
[S18 in FIG. 5 (address conversion)]
In this processing step S18, in order to improve the false color detection accuracy, the image is captured in processing step S15 (second image capturing) so that the same subject image is processed as being incident on the pixel having the same address. The address of each pixel constituting the second image is the shift amount of the solid-state image sensor 112a in processing step S14 (shift of the solid-state image sensor 112a) (in other words, the subject image on the light receiving surface 112aa of the solid-state image sensor 112a). Of the incident position).

一例として、図6(c)の画素PIXbのアドレス(ハ,2)は、被写体像の入射位置のシフト量に応じて右方向に1画素シフトしたときに位置する画素、すなわち、画素PIXbと同一の被写体像を取り込む画素PIXa(図6(b)参照)と同一のアドレス(ニ,2)に変換される。   As an example, the address (c, 2) of the pixel PIXb in FIG. 6C is the same as the pixel that is located when the pixel PIXb is shifted by one pixel in the right direction according to the shift amount of the incident position of the subject image, that is, the pixel PIXb. Is converted to the same address (d, 2) as the pixel PIXa (see FIG. 6B) for capturing the subject image.

[図5のS19(合焦エリアのペアリング)]
本処理ステップS19では、第一及び第二の合焦エリア情報に基づいて、処理ステップS12(第一画像の撮影)における第一画像の撮影時の合焦エリア(ここでは、図9(b)に示される合焦エリアFA1〜FA7)と、処理ステップS15(第二画像の撮影)における第二画像の撮影時の合焦エリア(ここでは、図9(c)に示される合焦エリアFA1’〜FA7’)とのペアリングが行われる。具体的には、合焦エリアFA1〜FA7と合焦エリアFA1’〜FA7’との間で共通(同一)の被写体像が写る合焦エリアが判別され、判別された共通の被写体像が写る合焦エリア同士がペアリングされる。より詳細には、合焦エリア間で共通の被写体像が写る画素を所定数以上含む合焦エリアのペアが、同一の被写体像が写る合焦エリアとしてペアリングされる。
[S19 in FIG. 5 (Pairing the in-focus area)]
In this processing step S19, based on the first and second focusing area information, the focusing area at the time of shooting the first image in the processing step S12 (shooting the first image) (here, FIG. 9B). ) And the focusing area at the time of shooting the second image in the processing step S15 (shooting the second image) (here, the focusing area FA1 ′ shown in FIG. 9C). To FA7 ′). Specifically, an in-focus area in which a common (identical) subject image is captured between the in-focus areas FA1 to FA7 and the in-focus areas FA1 ′ to FA7 ′ is determined, and the determined common subject image is captured. The focal areas are paired. More specifically, a pair of in-focus areas including a predetermined number or more of pixels in which a common subject image is captured between the in-focus areas is paired as a focus area in which the same subject image is captured.

図9(b)及び図9(c)の例では、合焦エリアFA1とFA1’がペアリングされ、合焦エリアFA2とFA2’がペアリングされ、合焦エリアFA3とFA3’がペアリングされ、合焦エリアFA4とFA4’がペアリングされ、合焦エリアFA5とFA5’がペアリングされる。   In the example of FIGS. 9B and 9C, the focusing areas FA1 and FA1 ′ are paired, the focusing areas FA2 and FA2 ′ are paired, and the focusing areas FA3 and FA3 ′ are paired. The focusing areas FA4 and FA4 ′ are paired, and the focusing areas FA5 and FA5 ′ are paired.

[図5のS20(偽色検出対象画素の設定)]
本処理ステップS20では、処理ステップS19(合焦エリアのペアリング)におけるペアリング結果に基づいて偽色検出の対象となる画素(以下、「偽色検出対象画素」と記す。)が設定される。図10に、偽色検出対象画素を例示する。図10中、破線の矩形領域が合焦エリアであり、合焦エリアを囲う実線の矩形領域が偽色を検出する偽色検出範囲である。この偽色検出範囲に含まれる画素が偽色検出対象画素である。すなわち、図10の例では、処理ステップS19(合焦エリアのペアリング)にて合焦エリアFA1’〜FA5’とペアリングされた合焦エリアFA1〜FA5内の各画素及び各合焦エリアFA1〜FA5を取り囲む所定数の周辺画素(以下、「第一画像の偽色検出対象画素」と記す。)と、第二画像において第一画像の偽色検出対象画素と同一アドレスの画素(以下、「第二画像の偽色検出対象画素」と記す。)が偽色検出対象画素として設定される。
[S20 in FIG. 5 (setting of false color detection target pixel)]
In this processing step S20, a pixel to be subjected to false color detection (hereinafter referred to as “false color detection target pixel”) is set based on the pairing result in processing step S19 (pairing of the in-focus area). . FIG. 10 illustrates a false color detection target pixel. In FIG. 10, a broken-line rectangular area is a focusing area, and a solid-line rectangular area surrounding the focusing area is a false color detection range in which a false color is detected. Pixels included in this false color detection range are false color detection target pixels. That is, in the example of FIG. 10, each pixel in the focusing areas FA1 to FA5 and each focusing area FA1 paired with the focusing areas FA1 ′ to FA5 ′ in the processing step S19 (pairing of the focusing area). A predetermined number of peripheral pixels (hereinafter referred to as “false-color detection target pixels of the first image”) surrounding the FA 5, and pixels (hereinafter referred to as “false-color detection target pixels of the first image” in the second image). "Described as a false color detection target pixel of the second image") is set as the false color detection target pixel.

一般に、合焦状態の被写体はコントラストが高く、高周波成分を含むものが多い。そのため、合焦状態の被写体では偽色が発生しやすい。一方、非合焦状態の被写体はコントラストが低く、高周波成分を含むものが少ない。そのため、非合焦状態の被写体では偽色が発生し難い。そこで、本処理ステップS20では、偽色検出対象画素を、全ての有効画素とせず、偽色が発生している可能性の高い合焦エリア及びその周辺の画素に絞り込む。これにより、偽色の検出精度が保たれつつ偽色検出の処理速度が向上する。   In general, in-focus subjects often have high contrast and contain high frequency components. Therefore, false colors are likely to occur in a focused subject. On the other hand, subjects that are out of focus have low contrast and few high frequency components. Therefore, a false color is unlikely to occur in an out-of-focus subject. Therefore, in the present processing step S20, the false color detection target pixels are not all effective pixels, but are narrowed down to the in-focus area and the surrounding pixels where the false color is highly likely to occur. As a result, the false color detection processing speed is improved while the false color detection accuracy is maintained.

他方の画像撮影時の合焦エリアとの間で共通(同一)の被写体像が写らない合焦エリア(すなわちペアリングされなかった合焦エリア)では、他方の画像撮影時に対して合焦状態が変化している可能性が高い。このような合焦エリアに写る被写体は、他方の画像撮影時に像振れした状態で撮像されている可能性が高い。そのため、このような合焦エリア内の各画素では、偽色が発生していなくても第一色差信号と第二色差信号との信号差分値が大きくなり、偽色が発生していると誤検出される虞がある。そこで、本処理ステップS20では、このような合焦エリア内の各画素を偽色検出対象画素から除外している。これにより、偽色の検出精度が向上する。   In the in-focus area where the same (same) subject image is not captured with the other in-focus area (that is, the in-focus area that has not been paired), the in-focus state is the same as in the other image shooting. It is likely that it has changed. There is a high possibility that the subject in such an in-focus area is imaged in a state where the image is shaken when the other image is captured. Therefore, in each pixel in such an in-focus area, the signal difference value between the first color difference signal and the second color difference signal becomes large even if no false color has occurred, and it is erroneously assumed that a false color has occurred. There is a risk of detection. Therefore, in this processing step S20, each pixel in such an in-focus area is excluded from the false color detection target pixels. This improves the false color detection accuracy.

なお、ユーザは、操作部102を操作することにより、各合焦エリアを基準とする偽色検出範囲の形状や大きさを変更したり、位置を微調整したりすることができる。例示的には、偽色検出範囲は、ユーザによる操作に従い、基準となる合焦エリアの中心又は該偽色検出範囲の中心に対して、形状を保ちつつ(相似形を保ちつつ)大きさのみが変更される。また、偽色検出範囲は、形状を保ちつつLCD124の表示画面の内側に向かって優先的に拡がるように大きさが変更されてもよい。また、LCD124の表示画面(又は画像)の中央寄りに位置する所定の範囲は、合焦エリアであるか否かに拘わらず、常時、偽色検出範囲に設定されてもよい。また、LCD124の表示画面(又は画像)の中央寄りの被写体を含む合焦エリアに対応する偽色検出範囲は、他の偽色検出範囲に対して優先的に拡大するように(操作量に対する拡大率が他の偽色検出範囲よりも大きく設定されたうえで)大きさが変更されてもよい。また、偽色検出範囲は、距離的に近い被写体を含む合焦エリアに対応するものほど優先的に拡大するように(操作量に対する拡大率が大きく設定されたうえで)大きさが変更されてもよい。   Note that the user can change the shape and size of the false color detection range based on each focus area and finely adjust the position by operating the operation unit 102. Illustratively, the false color detection range is only the size while maintaining the shape (maintaining a similar shape) with respect to the center of the reference focus area or the center of the false color detection range according to the operation by the user. Is changed. Further, the size of the false color detection range may be changed so as to preferentially expand toward the inside of the display screen of the LCD 124 while maintaining the shape. In addition, the predetermined range located near the center of the display screen (or image) of the LCD 124 may be always set to a false color detection range regardless of whether or not it is an in-focus area. Further, the false color detection range corresponding to the in-focus area including the subject near the center of the display screen (or image) of the LCD 124 is preferentially enlarged with respect to other false color detection ranges (enlargement with respect to the operation amount). The size may be changed (with the rate set larger than the other false color detection range). In addition, the size of the false color detection range is changed so that the area corresponding to the in-focus area including the subject close to the distance is preferentially enlarged (after the enlargement ratio with respect to the operation amount is set large). Also good.

偽色検出範囲が拡げられるほど広い範囲に亘って偽色が検出されるため偽色の検出精度が向上し、偽色検出範囲が狭められるほど偽色検出対象画素の数が減少するため偽色検出の処理速度が向上する。図9、図10の各図に示されるように、ライブビューには枠サイズ調整バーB1がOSDで表示される。枠サイズ調整バーB1の表示は、ユーザによる偽色検出範囲の変更操作量(偽色検出範囲の大きさ)に応じて変化する。ユーザは、枠サイズ調整バーB1を通じて現在の偽色検出範囲の大きさが大きい(すなわち、検出精度重視)か又は小さい(すなわち、検出速度重視)かを把握することができる。   As the false color detection range is expanded, false colors are detected over a wide range, so the false color detection accuracy is improved. As the false color detection range is narrowed, the number of false color detection target pixels is reduced. The detection processing speed is improved. As shown in FIGS. 9 and 10, a frame size adjustment bar B <b> 1 is displayed as an OSD in the live view. The display of the frame size adjustment bar B1 changes according to the amount of change operation of the false color detection range by the user (size of the false color detection range). The user can grasp through the frame size adjustment bar B1 whether the current false color detection range is large (that is, detection accuracy is important) or small (that is, detection speed is important).

[図5のS21(色差信号の差分値の演算)]
斜め縞被写体6a及び縦縞被写体7aは、固体撮像素子112aの画素PIXの画素ピッチPと同ピッチの高周波成分を含む。そのため、斜め縞被写体6a及び縦縞被写体7aの画像信号が処理ステップS12(第一画像の撮影)、処理ステップS15(第二画像の撮影)においてデモザイク処理されると、偽色が発生する。
[S21 in FIG. 5 (Calculation of Difference Value of Color Difference Signal)]
The oblique stripe subject 6a and the vertical stripe subject 7a include a high-frequency component having the same pitch as the pixel pitch P of the pixel PIX of the solid-state image sensor 112a. Therefore, when the image signals of the diagonally striped subject 6a and the vertically striped subject 7a are demosaiced in the processing step S12 (first image capturing) and the processing step S15 (second image capturing), a false color is generated.

具体的には、図6(b)の例では、G成分の画素PIXの輝度が高く、R及びB成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はG成分が支配的となって、斜め縞被写体6aに緑色の偽色が発生する。一方、図6(c)の例では、図6(b)の例とは反対に、R及びB成分の画素PIXの輝度が高く、G成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はR及びB成分が支配的となって、斜め縞被写体6aに紫色の偽色が発生する。   Specifically, in the example of FIG. 6B, the luminance of the G component pixel PIX is high, and the luminance of the R and B component pixels PIX is low. Therefore, the G component is dominant in the color information of each pixel PIX after the demosaic process, and a green false color is generated in the diagonally striped subject 6a. On the other hand, in the example of FIG. 6C, the luminance of the R and B component pixels PIX is high and the luminance of the G component pixel PIX is low, contrary to the example of FIG. 6B. Therefore, the R and B components are dominant in the color information of each pixel PIX after the demosaic process, and a purple false color is generated in the diagonally striped subject 6a.

また、図7(b)の例では、B成分の画素PIXの輝度が高く、R成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はBとGとの混色成分となって、青と緑との中間色(例えばシアン色中心の近傍色)の偽色が発生する。一方、図7(c)の例では、図7(b)の例とは反対に、R成分の画素PIXの輝度が高く、B成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はRとGとの混色成分となって、赤と緑の中間色(橙色中心の近傍色)の偽色が発生する。   In the example of FIG. 7B, the luminance of the B component pixel PIX is high and the luminance of the R component pixel PIX is low. Therefore, the color information of each pixel PIX after the demosaic processing becomes a mixed color component of B and G, and a false color of an intermediate color between blue and green (for example, a color near the cyan color center) is generated. On the other hand, in the example of FIG. 7C, the luminance of the R component pixel PIX is high and the luminance of the B component pixel PIX is low, contrary to the example of FIG. 7B. Therefore, the color information of each pixel PIX after the demosaic processing becomes a mixed color component of R and G, and a false color of an intermediate color between red and green (a color near the orange center) is generated.

図8は、Cb、Crの二軸で定義される色空間を示す。図8中、符号6bは、図6(b)の例において注目画素で発生する緑色の偽色に対応するプロットであり、符号6cは、図6(c)の例において注目画素で発生する紫色の偽色に対応するプロットであり、符号7bは、図7(b)の例において注目画素で発生する青と緑との中間色の偽色に対応するプロットであり、符号7cは、図7(c)の例において注目画素で発生する赤と緑の中間色の偽色に対応するプロットである。下記は、各プロットの座標情報を示す。なお、原点Oは座標(0,0)である。
プロット6b:(Cb,Cr)=(−M,−N)
プロット6c:(Cb,Cr)=(M,N)
プロット7b:(Cb,Cr)=(M’,−N’)
プロット7c:(Cb,Cr)=(−M’+α,N’+β)
但し、M,N,M’,N’,α,βは何れも正数である。
FIG. 8 shows a color space defined by two axes of Cb and Cr. In FIG. 8, reference numeral 6b is a plot corresponding to the green false color generated at the target pixel in the example of FIG. 6B, and reference numeral 6c is a purple color generated at the target pixel in the example of FIG. 6C. 7b is a plot corresponding to a false color of an intermediate color between blue and green generated in the target pixel in the example of FIG. 7B, and reference numeral 7c is a plot corresponding to FIG. It is a plot corresponding to the false color of the intermediate color of red and green generated in the target pixel in the example of c). The following shows the coordinate information of each plot. The origin O is the coordinates (0, 0).
Plot 6b: (Cb, Cr) = (− M, −N)
Plot 6c: (Cb, Cr) = (M, N)
Plot 7b: (Cb, Cr) = (M ′, −N ′)
Plot 7c: (Cb, Cr) = (− M ′ + α, N ′ + β)
However, all of M, N, M ′, N ′, α, and β are positive numbers.

図8に示されるように、本実施形態では、固体撮像素子112aの画素PIXの画素ピッチPと同程度の高周波成分の被写体像を取り込んだときに発生する偽色の色自体が、受光面112aa上での被写体像の入射位置をシフトさせることによって変化することを利用して偽色が発生する箇所(注目画素)を検出している。より詳細には、高周波成分の被写体像が取り込まれる注目画素において、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となる部分を、偽色が発生する部分であると判断し検出している。   As shown in FIG. 8, in the present embodiment, the false color itself that is generated when a subject image having a high frequency component equivalent to the pixel pitch P of the pixel PIX of the solid-state image sensor 112a is captured is the light receiving surface 112aa. A portion (a pixel of interest) where a false color is generated is detected by utilizing the change by shifting the incident position of the subject image above. More specifically, in a pixel of interest in which a high-frequency component subject image is captured, a portion in which the color information of the first color difference signal and the second color difference signal has a complementary color relationship is determined to be a portion where a false color is generated. It is detected.

本実施形態では、上記の補色関係を得るべく、受光面112aa上での被写体像の入射位置が左方向(水平の画素の並び方向)に1画素分シフト(固体撮像素子112aが被写体像に対して右方向に1画素分シフト)されているが、本発明はこれに限らない。シフト方向は、例示的には、右方向(水平の画素の並び方向)であってもよく、又は、上方向(垂直な画素の並び方向)、下方向(垂直な画素の並び方向)、右上、右下、左上、左下の各斜め方向(水平、垂直の各並び方向に対して45度をなす方向)など、画素配置に応じた他の方向であってもよいし、併用してもよい。また、シフト距離は、例示的には、3画素分、5画素分など、他の奇数画素分の距離であってもよく、また、半画素分又は半画素分+奇数画素分(例えば1.5画素分、2.5画素分等)であってもよく(すなわち、n画素分又は(m+0.5)画素分(但し、n=奇数の自然数,m=0又は奇数の自然数)の何れかであればよく)、シフト駆動する機構の精度に応じて選択できることもできる。また、シフト距離は、撮影対象の被写体や撮影条件によっては、偶数画素分及びその近傍(例えば1.9〜2.1画素分等)以外の距離であればよい。これらの量(方向及び距離)で受光面112aa上での被写体像の入射位置がシフトされる場合も、高周波成分の被写体像が取り込まれる(偽色が発生する)注目画素において、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となることから、偽色の発生が検出できる。   In the present embodiment, in order to obtain the above complementary color relationship, the incident position of the subject image on the light receiving surface 112aa is shifted by one pixel in the left direction (horizontal pixel arrangement direction) (the solid-state imaging device 112a is shifted from the subject image). However, the present invention is not limited to this. For example, the shift direction may be the right direction (horizontal pixel arrangement direction), or the upper direction (vertical pixel arrangement direction), the lower direction (vertical pixel arrangement direction), or the upper right direction. , Lower right, upper left, lower left diagonal directions (directions forming 45 degrees with respect to horizontal and vertical arrangement directions), or other directions according to the pixel arrangement may be used together. . In addition, the shift distance may be, for example, a distance corresponding to another odd pixel such as 3 pixels or 5 pixels, or a half pixel or a half pixel plus an odd pixel (for example, 1.. 5 pixels, 2.5 pixels, etc.) (ie, n pixels or (m + 0.5) pixels (where n = odd natural number, m = 0 or odd natural number) However, it can be selected according to the accuracy of the mechanism for shift driving. Further, the shift distance may be a distance other than the even number of pixels and the vicinity thereof (for example, 1.9 to 2.1 pixels) depending on the subject to be photographed and the photographing conditions. Even when the incident position of the subject image on the light receiving surface 112aa is shifted by these amounts (direction and distance), the first color difference signal is obtained at the target pixel in which the subject image of the high frequency component is captured (false color is generated). Since the color information of the second color difference signal and the second color difference signal are complementary to each other, the occurrence of false color can be detected.

本処理ステップS21では、処理ステップS20(偽色検出対象画素の設定)にて設定されたアドレスが同一の偽色検出対象画素毎に、第一色差信号と第二色差信号との差分値(Cbsub,Crsub)が演算される。具体的には、本処理ステップS21では、第一色差信号のCb、CrをそれぞれCb1、Cr1と定義し、これと同一アドレスの第二色差信号のCb、CrをそれぞれCb2、Cr2と定義した場合に、差分値(Cbsub,Crsub)が次式により演算される。
Cbsub=Cb1−Cb2
Crsub=Cr1−Cr2
In this processing step S21, the difference value (Cb) between the first color difference signal and the second color difference signal for each false color detection target pixel having the same address set in processing step S20 (setting of the false color detection target pixel). sub , Cr sub ) is calculated. Specifically, in this processing step S21, Cb and Cr of the first color difference signal are defined as Cb1 and Cr1, respectively, and Cb and Cr of the second color difference signal of the same address are defined as Cb2 and Cr2, respectively. In addition, the difference value (Cb sub , Cr sub ) is calculated by the following equation.
Cb sub = Cb1-Cb2
Cr sub = Cr1-Cr2

[図5のS22(第一の距離情報の演算)]
本処理ステップS22では、処理ステップS20(偽色検出対象画素の設定)にて設定されたアドレスが同一の偽色検出対象画素毎に、第一色差信号と第二色差信号との色空間内での距離(第一の距離情報Saturation_sub)が次式により演算される。
Saturation_sub=√(Cbsub +Crsub
[S22 in FIG. 5 (Calculation of First Distance Information)]
In this processing step S22, for each false color detection target pixel having the same address set in processing step S20 (false color detection target pixel setting), within the color space of the first color difference signal and the second color difference signal. distance (first distance information Saturation_ sub) is calculated by the following equation.
Saturation_ sub = √ (Cb sub 2 + Cr sub 2)

第一の距離情報Saturation_subは、図8の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、2√(M+N)、√{(−2M’+α)+(2N’+β)}となる。 The first distance information Saturation_ sub are each an example of each plot pair of FIG. 8 (plot 6b and plot 6c, plots 7b and plot 7c), 2√ (M 2 + N 2), √ {(- 2M '+ α) 2 + (2N ′ + β) 2 }.

図8の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が強い補色関係にあるほど第一の距離情報Saturation_subが大きくなり、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)ほど第一の距離情報Saturation_subが小さくなる。すなわち、第一の距離情報Saturation_subは、偽色発生領域でなければ理想的にはゼロであり、偽色が強く発生する偽色発生領域ほど大きくなる。 As understood from the positional relationship of each plot pair of FIG. 8, as the color information with the first color difference signal and a second color difference signal is strong complementary relationship first distance information Saturation_ sub increases, first color difference signal and the color information having the second color difference signal is not (for example similar hue) in complementary relationship as the first distance information Saturation_ sub decreases. That is, the first distance information Saturation_ sub ideally if false color occurrence region is zero, the larger the false color occurrence region in which false color is generated strongly.

[図5のS23(色差信号の加算値の演算)]
本処理ステップS23では、処理ステップS20(偽色検出対象画素の設定)にて設定されたアドレスが同一の偽色検出対象画素毎に、第一色差信号と第二色差信号との加算値(Cb’add,Cr’add)が演算される。
[S23 in FIG. 5 (Calculation of Addition Value of Color Difference Signal)]
In this processing step S23, for each false color detection target pixel having the same address set in processing step S20 (false color detection target pixel setting), an added value (Cb) of the first color difference signal and the second color difference signal. ' add , Cr'add ) is calculated.

具体的には、本処理ステップS23では、暫定加算値(Cbadd,Cradd)が次式により演算される。
Cbadd=Cb1+Cb2
Cradd=Cr1+Cr2
Specifically, in this processing step S23, provisional addition values (Cb add , Cr add ) are calculated by the following equations.
Cb add = Cb1 + Cb2
Cr add = Cr1 + Cr2

次いで、暫定加算値の平均値(Cbmean,Crmean)が次式により演算される。
Cbmean=Cbadd/2
Crmean=Cradd/2
Next, the average value (Cb mean , Cr mean ) of the provisional addition values is calculated by the following equation.
Cb mean = Cb add / 2
Cr mean = Cr add / 2

次いで、加算値(Cb’add,Cr’add)が次式により演算される。
Cb’add=Cbadd−Cbmean
Cr’add=Cradd−Crmean
Next, the added value (Cb ′ add , Cr ′ add ) is calculated by the following equation.
Cb ′ add = Cb add −Cb mean
Cr ′ add = Cr add −Cr mean

[図5のS24(第二の距離情報の演算)]
本処理ステップS24では、処理ステップS20(偽色検出対象画素の設定)にて設定されたアドレスが同一の偽色検出対象画素毎に、加算値(Cb’add,Cr’add)に基づいて色空間内における第二の距離情報Saturation_addが次式により演算される。
Saturation_add=√(Cb’add +Cr’add
[S24 in FIG. 5 (calculation of second distance information)]
In this processing step S24, for each false color detection target pixel having the same address set in processing step S20 (false color detection target pixel setting), the color is determined based on the added value (Cb ′ add , Cr ′ add ). second distance information Saturation_ the add is calculated by the following equation in space.
Saturation_ add = √ (Cb 'add 2 + Cr' add 2)

第二の距離情報Saturation_addは、図8の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、ゼロ、√(α+β)となる。 Second distance information Saturation_ the add each example of each plot pair of FIG. 8 (plot 6b and plot 6c, plots 7b and plot 7c), zero, and √ (α 2 + β 2) .

ここで、第一、第二の各色差信号は、画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて変化する。しかし、第一、第二の各色差信号が同じように変化するため、色空間内における互いの相対距離(すなわち、第一の距離情報Saturation_sub)は変化が少ない。 Here, the first and second color difference signals change under the influence of the light source, the exposure condition, the white balance and the like at the time of image capturing. However, first, since the second respective color difference signals varies in the same way, mutual relative distance in the color space (i.e., the first distance information Saturation_ sub) changes little.

一方、第二の距離情報Saturation_addは、第一、第二の各色差信号が画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて色空間の原点Oの位置に対して変化すると、大きく変化する。そこで、処理ステップS23(色差信号の加算値の演算)では、第二の距離情報Saturation_addを暫定加算値(Cbadd,Cradd)を用いて即座には演算せず、上記影響による原点Oに対する位置の変化を相殺又は軽減すべく(上記影響により、原点Oから離れた第一色差信号と第二色差信号との中点を原点Oに近付けるべく)、加算値(Cb’add,Cr’add)が演算されている。 On the other hand, the second distance information Saturation_ the add, the first, second light source for the respective color difference signal imaging, exposure conditions, the changes relative to the position of the origin O of the color space under the influence of such as white balance , Change a lot. Therefore, in the process step S23 (calculation of the sum of the color difference signal), the second distance information Saturation_ the add provisional sum value (Cb add, Cr add) without operation immediately using, relative to the origin O by the impact In order to cancel or reduce the change in position (to make the midpoint between the first color difference signal and the second color difference signal far from the origin O closer to the origin O due to the above influence), the added values (Cb ′ add , Cr ′ add) ) Is calculated.

図8の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が補色関係にある場合は、互いの符号が逆となることから加算値(Cb’add,Cr’add)が小さくなって、第二の距離情報Saturation_addが小さくなる。また、強い補色関係であるほど第二の距離情報Saturation_addが小さくなって、理想的にはゼロとなる。一方、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)場合は、互いの符号が同一となることから、加算値(Cb’add,Cr’add)が大きくなって、第二の距離情報Saturation_addが大きくなる。すなわち、第二の距離情報Saturation_addは、偽色発生領域でなければ大きくなり、偽色発生領域であれば小さくなる。 As can be understood from the positional relationship between each pair of plots in FIG. 8, when the color information of the first color difference signal and the second color difference signal has a complementary color relationship, the signs are opposite to each other, so that the added value (Cb 'add, Cr' add) is decreased, the second distance information Saturation_ the add decreases. The second distance information Saturation_ to add becomes smaller as is strong complementary relationship, the zero ideally. On the other hand, when the color information of the first color difference signal and the second color difference signal is not in a complementary color relationship (for example, the same hue), the signs are the same, so the added values (Cb ′ add , Cr ′) add) and increases, the second distance information Saturation_ the add increases. That is, the second distance information Saturation_ the add is larger if false color occurrence region decreases if false color occurrence region.

[図5のS25(輝度信号の差分値の演算)]
説明の便宜上、処理ステップS12(第一画像の撮影)にて撮影された第一画像の輝度信号Yを「第一輝度信号」と記し、処理ステップS15(第二画像の撮影)にて撮影された第二画像の輝度信号Yを「第二輝度信号」と記す。本処理ステップS25では、処理ステップS20(偽色検出対象画素の設定)にて設定されたアドレスが同一の偽色検出対象画素毎に、第一輝度信号と第二輝度信号との差分値Ydiffが演算される。具体的には、本処理ステップS25では、第一輝度信号をY1と定義し、第二輝度信号をY2と定義した場合に、差分値Ydiffが次式により演算される。
diff=|Y1−Y2|
[S25 in FIG. 5 (Calculation of Difference Value of Luminance Signal)]
For convenience of explanation, the luminance signal Y of the first image taken in the processing step S12 (photographing the first image) will be referred to as “first luminance signal” and taken in the processing step S15 (photographing the second image). The luminance signal Y of the second image is referred to as “second luminance signal”. In this processing step S25, for each false color detection target pixel having the same address set in processing step S20 (false color detection target pixel setting), the difference value Y diff between the first luminance signal and the second luminance signal. Is calculated. Specifically, in this processing step S25, when the first luminance signal is defined as Y1 and the second luminance signal is defined as Y2, the difference value Y diff is calculated by the following equation.
Y diff = | Y1-Y2 |

[図5のS26(偽色発生領域の判定)]
本処理ステップS26では、処理ステップS20(偽色検出対象画素の設定)にて設定されたアドレスが同一の偽色検出対象画素毎に、偽色発生領域であるか否かが判定される。具体的には、次の条件(1)〜(3)が全て満たされる場合に、当該画素が偽色発生領域であると判定される。
[S26 in FIG. 5 (Determination of False Color Generation Area)]
In this processing step S26, it is determined whether or not the address set in the processing step S20 (false color detection target pixel setting) is a false color generation region for each false color detection target pixel. Specifically, when all of the following conditions (1) to (3) are satisfied, it is determined that the pixel is a false color generation region.

・条件(1)
上述したように、第一の距離情報Saturation_subが大きいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該画素が偽色発生領域である可能性が高い。そこで、条件(1)は次のように規定される。
条件(1):Saturation_sub≧閾値T1
・ Condition (1)
As described above, since the color information having the first color difference signal the larger the first distance information Saturation_ sub and the second color difference signal is strong complementary relationship, it is likely the pixel is false color occurrence region . Therefore, condition (1) is defined as follows.
Condition (1): Saturation_ sub ≧ threshold T1

・条件(2)
上述したように、第二の距離情報Saturation_addが小さいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該画素が偽色発生領域である可能性が高い。そこで、条件(2)は次のように規定される。
条件(2):Saturation_add≦閾値T2
・ Condition (2)
As described above, since the color information having the second distance information Saturation_ first color difference signal the more add small and the second color difference signal is strong complementary relationship, it is likely the pixel is false color occurrence region . Therefore, condition (2) is defined as follows.
Condition (2): Saturation_ add ≦ threshold T2

処理ステップS12(第一画像の撮影)にて撮影された第一画像と処理ステップS15(第二画像の撮影)にて撮影された第二画像の一方だけで大きな像振れが発生した場合を考える。この場合、第一色差信号と第二色差信号との差分が大きくなって、偽色が誤検出される虞がある。そこで、条件(3)は次のように規定される。
条件(3):Ydiff≦閾値T3
Consider a case in which a large image blur occurs in only one of the first image taken in the processing step S12 (photographing the first image) and the second image taken in the processing step S15 (photographing the second image). . In this case, the difference between the first color difference signal and the second color difference signal becomes large, and there is a possibility that a false color is erroneously detected. Therefore, the condition (3) is defined as follows.
Condition (3): Y diff ≦ threshold value T3

すなわち、差分値Ydiffが閾値T3よりも大きい場合は、上記の誤検出の虞があることから、当該画素に対する偽色の検出が行われない(当該画素が偽色発生領域でないものとして処理される。)。 That is, when the difference value Y diff is larger than the threshold value T3, there is a risk of the above-described erroneous detection, so that the false color is not detected for the pixel (the pixel is processed as not being a false color generation region). )

なお、条件(1)と条件(2)は、当該画素が偽色発生領域であるか否かを直接的に判定する条件となっている。そこで、別の実施形態では、条件(1)と条件(2)の少なくとも一方が満たされる場合に、当該画素が偽色発生領域であると判定されるようにしてもよい。   Condition (1) and condition (2) are conditions for directly determining whether or not the pixel is a false color generation region. Therefore, in another embodiment, when at least one of the condition (1) and the condition (2) is satisfied, the pixel may be determined to be a false color generation region.

また、ユーザは、操作部102を操作して閾値T1〜T3を設定変更することにより、偽色の検出感度を変更することができる。図9、図10の各図に示されるように、ライブビューには検出感度調整バーB2がOSDで表示される。検出感度調整バーB2の表示は、ユーザによる閾値T1〜T3の設定変更内容に応じて変化する。ユーザは、検出感度調整バーB2を通じて現在の偽色の検出感度を把握することができる。   Further, the user can change the false color detection sensitivity by operating the operation unit 102 to change the settings of the threshold values T1 to T3. As shown in FIGS. 9 and 10, the detection sensitivity adjustment bar B <b> 2 is displayed in OSD in the live view. The display of the detection sensitivity adjustment bar B2 changes according to the setting change contents of the threshold values T1 to T3 by the user. The user can grasp the current false color detection sensitivity through the detection sensitivity adjustment bar B2.

[図5のS27(偽色の検出)]
本処理ステップS27では、偽色の有無が検出される。例示的には、処理ステップS26(偽色発生領域の判定)において偽色発生領域と判定された画素数(又は全有効画素数のうち偽色発生領域と判定された画素の割合)が所定の閾値以上である場合に、偽色有りという検出結果となり(S27:YES)、該画素数(又は割合)が所定の閾値未満である場合に、偽色無しという検出結果となる(S27:NO)。
[S27 in FIG. 5 (false color detection)]
In this processing step S27, the presence or absence of a false color is detected. Illustratively, the number of pixels determined as a false color generation region in processing step S26 (determination of the false color generation region) (or the ratio of the pixels determined as the false color generation region out of the total number of effective pixels) is predetermined. When it is equal to or greater than the threshold value, a detection result that there is a false color is obtained (S27: YES), and when the number of pixels (or ratio) is less than a predetermined threshold value, a detection result that there is no false color is obtained (S27: NO). .

[図5のS28(撮影画像の保存)]
本処理ステップS28は、処理ステップS27(偽色の検出)にて偽色無しという検出結果が得られた場合(S27:NO)に実行される。本処理ステップS28では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS15(第二画像の撮影)にて撮影された第二画像について偽色が検出されなかったとして、その少なくとも一方がメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存される。この時点で撮影動作が完了した旨が撮影者に告知されてもよい。特に、処理ステップS15(第二画像の撮影)で第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されている場合には、撮影動作が完了したことが撮影者に伝わる。これにより、撮影者は次の作業、例えば撮影装置1の状態(セッティング)の変更に進むことができる。
[S28 in FIG. 5 (saving of photographed image)]
This process step S28 is executed when a detection result indicating no false color is obtained in process step S27 (detection of false color) (S27: NO). In this processing step S28, no false color is detected for the first image taken in processing step S12 (photographing the first image) and the second image taken in processing step S15 (photographing the second image). For example, at least one of them is stored in the memory card 200 (or a built-in memory (not shown) provided in the photographing apparatus 1). At this point, the photographer may be notified that the shooting operation has been completed. In particular, if the photographer is informed that the false color detection process using the first image and the second image is started in the processing step S15 (second image shooting), the shooting operation is completed. Communicate to the photographer. As a result, the photographer can proceed to the next work, for example, change of the state (setting) of the photographing apparatus 1.

[図5のS29(LPF駆動下での撮像)]
本処理ステップS29は、処理ステップS27(偽色の検出)にて偽色有りという検出結果が得られた場合(S27:YES)に実行される。本処理ステップS29では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS15(第二画像の撮影)にて撮影された第二画像について偽色が検出されたことから、LPF駆動が実行される。既にLPF駆動下での撮像が行われていた場合は、より強い光学的なLPF効果(偽色等のモアレの軽減)が得られるように、固体撮像素子112aの駆動周期(回転周期)や駆動振幅(回転半径)が調整される。すなわち、偽色を軽減するためのより有利な撮影条件に変更される。そのうえで、被写体の撮像(第三画像の撮影)が行われる。つまり、偽色が検出された場合には第三画像の撮影が行われる。そのため、処理ステップS15(第二画像の撮影)にて偽色検出処理を開始する旨が撮影者に告知されている場合、撮影者は第三画像の撮影が完了するまで、撮影装置1の状態(セッティング)を維持することができる。
[S29 in FIG. 5 (Image pickup under LPF drive)]
This processing step S29 is executed when a detection result indicating that there is a false color is obtained in processing step S27 (detection of false color) (S27: YES). In this processing step S29, false colors were detected for the first image taken in processing step S12 (photographing the first image) and the second image taken in processing step S15 (photographing the second image). Therefore, the LPF drive is executed. When imaging under LPF driving has already been performed, the driving cycle (rotation cycle) and driving of the solid-state imaging device 112a are obtained so that a stronger optical LPF effect (reduction of moire such as false colors) can be obtained. The amplitude (rotation radius) is adjusted. That is, it is changed to a more advantageous shooting condition for reducing false colors. Then, the subject is imaged (third image is captured). That is, when a false color is detected, the third image is captured. Therefore, when the photographer is notified that the false color detection process is to be started in the processing step S15 (second image capturing), the photographer is in a state of the image capturing device 1 until the third image capturing is completed. (Setting) can be maintained.

本実施形態によれば、偽色検出対象画素が、全ての有効画素ではなく、偽色が発生している可能性の高い合焦エリア及びその周辺の画素に絞り込まれる。これにより、偽色の検出精度が保たれつつ偽色検出の処理速度が向上する。また、本実施形態によれば、固体撮像素子112aの受光面112aa上での被写体像の入射位置をシフトさせることにより、画素ピッチPと同程度以上の高周波成分の被写体像が取り込まれた場合に、異なる偽色(互いに補色の関係となる偽色)が発生し、差分の大きい画像が生成される構成となっている。偽色の検出に差分の大きい画像が用いられることから、偽色が精度良く検出される。   According to the present embodiment, the false color detection target pixels are narrowed down to not only all the effective pixels but also the in-focus area where the false color is highly likely to occur and the surrounding pixels. As a result, the false color detection processing speed is improved while the false color detection accuracy is maintained. Further, according to the present embodiment, when a subject image having a high frequency component equal to or higher than the pixel pitch P is captured by shifting the incident position of the subject image on the light receiving surface 112aa of the solid-state imaging device 112a. Different false colors (false colors that are complementary to each other) are generated, and an image with a large difference is generated. Since an image having a large difference is used for detecting the false color, the false color is detected with high accuracy.

以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。   The above is the description of the exemplary embodiments of the present invention. Embodiments of the present invention are not limited to those described above, and various modifications are possible within the scope of the technical idea of the present invention. For example, the embodiment of the present application also includes an embodiment that is exemplarily specified in the specification or a combination of obvious embodiments and the like as appropriate.

上記の実施形態では、LPF駆動を実行することにより、画像全体に対して光学的に偽色の除去を施しているが、本発明はこれに限らない。偽色は、画像処理を用いて除去されてもよい。画像処理の場合は、偽色を画像全体に限らず局所的に(例えば偽色発生領域と判定された画素毎に)除去することもできる。また、偽色発生領域を示す情報を第一画像(第二画像)と関連付けて保存しておけば、仮に別端末(コンピューターなど)によって手作業で偽色補正をする場合でも、作業者は、当該情報に基づいて偽色発生領域を容易に発見することができる。そのため、画像全体から偽色発生領域を探す手間が軽減される。   In the above embodiment, the false color is optically removed from the entire image by executing the LPF drive, but the present invention is not limited to this. False colors may be removed using image processing. In the case of image processing, the false color can be removed not only in the entire image but also locally (for example, for each pixel determined to be a false color generation region). In addition, if information indicating the false color generation area is stored in association with the first image (second image), even if the false color correction is manually performed by another terminal (such as a computer), A false color generation region can be easily found based on the information. Therefore, the trouble of searching for the false color generation area from the entire image is reduced.

上記の実施形態では、処理ステップS12(第一画像の撮影)における第一画像の撮影時の合焦エリアFA1〜FA5を基準に偽色検出対象画素が設定されているが、本発明はこれに限らない。例えば、処理ステップS15(第二画像の撮影)における第二画像の撮影時の合焦エリアFA1’〜FA5’を基準に偽色検出対象画素が設定されてもよい。   In the above embodiment, the false color detection target pixels are set with reference to the focusing areas FA1 to FA5 at the time of shooting the first image in the processing step S12 (shooting the first image). Not exclusively. For example, the false color detection target pixel may be set with reference to the focusing areas FA1 'to FA5' when the second image is captured in the processing step S15 (second image capturing).

また、上記の実施形態では、ペアリングされた合焦エリア内の各画素だけでなく該合焦エリアを取り囲む所定数の周辺画素が偽色検出対象画素として設定されているが、本発明はこれに限らない。例えば、ペアリングされた合焦エリア内の各画素だけが偽色検出対象画素として設定されてもよい。   In the above embodiment, not only each pixel in the paired focusing area but also a predetermined number of surrounding pixels surrounding the focusing area are set as false color detection target pixels. Not limited to. For example, only each pixel in the paired focusing area may be set as a false color detection target pixel.

1 撮影装置
100 システムコントローラ
102 操作部
104 駆動回路
106 撮影レンズ
108 絞り
110 シャッタ
112 像振れ補正装置
112a 固体撮像素子
112aa (固体撮像素子の)受光面
112b 固定支持基板
112c 可動ステージ
114 信号処理回路
116 画像処理エンジン
118 バッファメモリ
120 カード用インタフェース
122 LCD制御回路
124 LCD
126 ROM
128 ジャイロセンサ
200 メモリカード
YR、CYL、CXD、CXU 駆動用コイル
YR、HYL、HXD、HXU ホール素子
YR、MYL、MXD、MXU 磁石
PIX 画素
VCMYR、VCMYL、VCMXD、VCMXU ボイスコイルモータ
YR、YYL、YXD、YXU ヨーク
DESCRIPTION OF SYMBOLS 1 Image pick-up device 100 System controller 102 Operation part 104 Drive circuit 106 Shooting lens 108 Aperture 110 Shutter 112 Image blur correction device 112a Solid-state image sensor 112aa Light-receiving surface 112b (of solid-state image sensor) Fixed support substrate 112c Movable stage 114 Signal processing circuit 116 Image Processing engine 118 Buffer memory 120 Card interface 122 LCD control circuit 124 LCD
126 ROM
128 Gyro sensor 200 Memory card C YR , C YL , C XD , C XU driving coil H YR , H YL , H XD , H XU Hall element M YR , M YL , M XD , M XU magnet PIX pixel VCM YR , VCM YL , VCM XD , VCM XU voice coil motor YYR , YYL , YXD , YXU yoke

Claims (12)

画像内の合焦情報に基づいて少なくとも1つの合焦領域を検出する合焦領域検出手段と、
前記画像内で発生する画像劣化の検出範囲を前記検出された各合焦領域を基準とする所定の範囲に設定する検出範囲設定手段と、
を備える、
画像検出範囲設定装置。
Focusing area detecting means for detecting at least one focusing area based on focusing information in the image;
Detection range setting means for setting a detection range of image degradation occurring in the image to a predetermined range based on each detected focus area;
Comprising
Image detection range setting device.
前記検出範囲は、
前記基準となる合焦領域及び該合焦領域の周辺領域よりなる、
請求項1に記載の画像検出範囲設定装置。
The detection range is
Consists of the reference focusing area and the surrounding area of the focusing area,
The image detection range setting device according to claim 1.
操作者の操作を受け付ける操作受付手段と、
受け付けられた操作者の操作に従って前記検出範囲を変更する検出範囲変更手段と、
を備える、
請求項1又は請求項2に記載の画像検出範囲設定装置。
Operation accepting means for accepting the operation of the operator;
Detection range changing means for changing the detection range in accordance with an accepted operator's operation;
Comprising
The image detection range setting device according to claim 1 or 2.
前記検出範囲変更手段は、
前記基準となる合焦領域の中心又は前記検出範囲の中心に対して前記操作に従って該検出範囲の大きさを変更する、
請求項3に記載の画像検出範囲設定装置。
The detection range changing means includes
The size of the detection range is changed according to the operation with respect to the center of the reference focusing area or the center of the detection range,
The image detection range setting device according to claim 3.
前記検出範囲の形状は、
前記検出範囲変更手段による大きさの変更の前後で相似形を保つ、
請求項4に記載の画像検出範囲設定装置。
The shape of the detection range is
Maintain a similar shape before and after the size change by the detection range changing means,
The image detection range setting device according to claim 4.
前記検出範囲の大きさを示す指標を表示する指標表示手段
を備え、
前記指標表示手段は、
前記検出範囲の大きさの変更に応じて前記指標の表示を変化させる、
請求項4又は請求項5に記載の画像検出範囲設定装置。
Comprising an index display means for displaying an index indicating the size of the detection range;
The indicator display means includes
Changing the display of the indicator according to the change in the size of the detection range,
The image detection range setting device according to claim 4 or 5.
請求項1から請求項6の何れか一項に記載の画像検出範囲設定装置と、
前記画像検出範囲設定装置により設定された検出範囲において画像劣化の検出を行う画像検出手段と、
を備える、
画像検出装置。
The image detection range setting device according to any one of claims 1 to 6,
Image detection means for detecting image deterioration in the detection range set by the image detection range setting device;
Comprising
Image detection device.
前記画像検出手段は、
撮像条件の異なる少なくとも一対の画像を取得し、
取得された対となる画像に基づいて前記検出範囲での画像劣化の検出を行う、
請求項7に記載の画像検出装置。
The image detecting means includes
Acquire at least a pair of images with different imaging conditions,
Detecting image degradation in the detection range based on the acquired paired images;
The image detection apparatus according to claim 7.
前記画像検出手段は、
前記対となる画像間で同一の被写体が写る合焦領域を判別し、
判別された同一の被写体が写る合焦領域を基準とする検出範囲について前記対となる画像に基づく画像劣化の検出を行う、
請求項8に記載の画像検出装置。
The image detecting means includes
Determine the in-focus area where the same subject appears between the pair of images,
Detecting image degradation based on the paired images with respect to a detection range based on a focused area in which the determined same subject is captured;
The image detection apparatus according to claim 8.
前記画像検出手段は、
前記対となる画像に基づいて所定の閾値判定を行い、
前記閾値判定の結果に基づいて画像劣化の検出を行い、
前記閾値は、
操作者の操作に従って設定変更可能である、
請求項8又は請求項9に記載の画像検出装置。
The image detecting means includes
Perform a predetermined threshold determination based on the paired images,
Image degradation is detected based on the threshold determination result,
The threshold is
The setting can be changed according to the operation of the operator.
The image detection apparatus according to claim 8 or 9.
画像内の合焦情報に基づいて少なくとも1つの合焦領域を検出する段階と、
前記画像内で発生する画像劣化の検出範囲を前記検出された各合焦領域を基準とする所定の範囲に設定する検出範囲設定段階と、
を含む、
画像検出範囲設定方法。
Detecting at least one in-focus region based on in-focus information in the image;
A detection range setting step for setting a detection range of image degradation occurring in the image to a predetermined range based on each detected focus area;
including,
Image detection range setting method.
請求項11に記載の画像検出範囲設定方法をコンピュータに実行させるための画像検出範囲設定プログラム。   An image detection range setting program for causing a computer to execute the image detection range setting method according to claim 11.
JP2015019867A 2015-02-04 2015-02-04 Image detection apparatus, image detection method and image detection program Active JP6548141B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015019867A JP6548141B2 (en) 2015-02-04 2015-02-04 Image detection apparatus, image detection method and image detection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015019867A JP6548141B2 (en) 2015-02-04 2015-02-04 Image detection apparatus, image detection method and image detection program

Publications (2)

Publication Number Publication Date
JP2016144103A true JP2016144103A (en) 2016-08-08
JP6548141B2 JP6548141B2 (en) 2019-07-24

Family

ID=56569019

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015019867A Active JP6548141B2 (en) 2015-02-04 2015-02-04 Image detection apparatus, image detection method and image detection program

Country Status (1)

Country Link
JP (1) JP6548141B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0974524A (en) * 1995-07-05 1997-03-18 Sharp Corp Image input device
JP2008048152A (en) * 2006-08-16 2008-02-28 Casio Comput Co Ltd Moving picture processing apparatus, moving picture photographing apparatus and moving picture photographing program
JP2008182486A (en) * 2007-01-24 2008-08-07 Fujifilm Corp Photographing device, and image processing method
JP2011109496A (en) * 2009-11-19 2011-06-02 Nikon Corp Imaging apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0974524A (en) * 1995-07-05 1997-03-18 Sharp Corp Image input device
JP2008048152A (en) * 2006-08-16 2008-02-28 Casio Comput Co Ltd Moving picture processing apparatus, moving picture photographing apparatus and moving picture photographing program
JP2008182486A (en) * 2007-01-24 2008-08-07 Fujifilm Corp Photographing device, and image processing method
JP2011109496A (en) * 2009-11-19 2011-06-02 Nikon Corp Imaging apparatus

Also Published As

Publication number Publication date
JP6548141B2 (en) 2019-07-24

Similar Documents

Publication Publication Date Title
JP5937690B2 (en) Imaging apparatus and control method thereof
JP2011223562A (en) Imaging apparatus
WO2014083914A1 (en) Image capture device and focus control method
WO2014141561A1 (en) Imaging device, signal processing method, and signal processing program
US11012633B2 (en) Image capturing apparatus, image capturing method, and image processing apparatus
US9871964B2 (en) Photographing apparatus, photographing controller, photographing control method, and photographing control program
JP2006129175A (en) Imaging device
US9955066B2 (en) Imaging apparatus and control method of imaging apparatus
US10057492B2 (en) Photographing apparatus and photographing control method to generate a low-pass filter effect
JP2011211329A (en) Imaging apparatus and control method thereof, image processing apparatus and control method thereof, and image processing program
US9578243B2 (en) Photographing apparatus and photographing control method
JP6579369B2 (en) Image processing apparatus, image processing method, and image processing program
JP6548141B2 (en) Image detection apparatus, image detection method and image detection program
JP2008113466A (en) Electronic camera
JP6641662B2 (en) Imaging apparatus, display control method in imaging apparatus, and computer program used for controlling imaging apparatus
JP6525139B2 (en) Image detection apparatus, image detection method and imaging apparatus
JP6501106B2 (en) Image detection apparatus, image detection method and imaging apparatus
JP6460395B2 (en) Imaging apparatus and display control method in imaging apparatus
JP2008245236A (en) Imaging apparatus and defective pixel correcting method
JP6489350B2 (en) Image blur correction apparatus and image blur correction method in the image blur correction apparatus
JP2018148500A (en) Imaging system, image determination program, image imaging device, image data structure
JP6508609B2 (en) Imaging apparatus and control method therefor
JP6806216B2 (en) A device that has a shooting function, a method that this device executes, and a program that causes a computer to execute this method.
JP2017200029A (en) Image deterioration detector
JP2017200028A (en) Image deterioration detector

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170717

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190603

R150 Certificate of patent or registration of utility model

Ref document number: 6548141

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190616

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250