JP2016029750A - Imaging apparatus, signal processing method, signal processing program - Google Patents

Imaging apparatus, signal processing method, signal processing program Download PDF

Info

Publication number
JP2016029750A
JP2016029750A JP2012274684A JP2012274684A JP2016029750A JP 2016029750 A JP2016029750 A JP 2016029750A JP 2012274684 A JP2012274684 A JP 2012274684A JP 2012274684 A JP2012274684 A JP 2012274684A JP 2016029750 A JP2016029750 A JP 2016029750A
Authority
JP
Japan
Prior art keywords
phase difference
block
difference detection
correction gain
gain value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012274684A
Other languages
Japanese (ja)
Inventor
一文 菅原
Kazufumi Sugawara
一文 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012274684A priority Critical patent/JP2016029750A/en
Priority to PCT/JP2013/080992 priority patent/WO2014097792A1/en
Publication of JP2016029750A publication Critical patent/JP2016029750A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To enhance correction accuracy of the output signal of a phase difference detection pixel.SOLUTION: A digital signal processing section 17 for processing a captured image signal outputted from a solid state image sensor 3 including an imaging pixel 30 and phase difference detection pixels 31R, 31L divides an AF area 31 by 36, and determines the correction gain values of the phase difference detection pixels 31R, 31L, respectively, for each block 32. For the blocks 32 having a low reliability of correction gain value thus determined, out of the 36 blocks 32, the correction gain value is generated using those of the surrounding blocks, for which highly reliable correction gain values are obtained.SELECTED DRAWING: Figure 6

Description

本発明は、撮像装置、信号処理方法、信号処理プログラムに関する。   The present invention relates to an imaging apparatus, a signal processing method, and a signal processing program.

近年、CCD(Charge Coupled Device)イメージセンサ、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の固体撮像素子の高解像度化に伴い、デジタルスチルカメラ、デジタルビデオカメラ、携帯電話機、PDA(Personal Digital Assistant,携帯情報端末)等の撮影機能を有する情報機器の需要が急増している。なお、以上のような撮像機能を有する情報機器を撮像装置と称する。   In recent years, with the increase in the resolution of solid-state imaging devices such as CCD (Charge Coupled Device) image sensors and CMOS (Complementary Metal Oxide Semiconductor) image sensors, digital still cameras, digital video cameras, cellular phones, PDA (Personal Digital Assistants). The demand for information equipment having a photographing function such as an information terminal is rapidly increasing. Note that an information device having the above imaging function is referred to as an imaging device.

主要な被写体に焦点を合わせる合焦制御方法には、コントラストAF(Auto Focus、自動合焦)方式や位相差AF方式がある。位相差AF方式は、コントラストAF方式に比べて合焦位置の検出を高速,高精度に行うことができるため、様々な撮像装置で多く採用されている。   As a focus control method for focusing on a main subject, there are a contrast AF (Auto Focus) method and a phase difference AF method. Since the phase difference AF method can detect the in-focus position at a higher speed and with higher accuracy than the contrast AF method, it is widely used in various imaging apparatuses.

位相差AF方式により合焦制御を行う撮像装置に搭載される固体撮像素子には、例えば、遮光膜開口が互いに逆方向に偏心した位相差検出用の画素のペアを受光面の全面に離散的に設けたものが使用される(特許文献1〜4参照)。   In a solid-state imaging device mounted on an imaging apparatus that performs focusing control by the phase difference AF method, for example, a pair of phase difference detection pixels whose light shielding film openings are decentered in opposite directions are discretely distributed over the entire light receiving surface. (See Patent Documents 1 to 4).

この位相差検出用の画素は、遮光膜開口の面積がその他の通常の画素(撮像用画素)よりも小さくなっているため、その出力信号を撮像画像信号として使用するには不十分なものとなる。そこで、位相差検出用の画素の出力信号を補正する必要が生じる。   This phase difference detection pixel has an area of the light shielding film opening smaller than that of other normal pixels (imaging pixels), so that the output signal is not sufficient for use as a captured image signal. Become. Therefore, it is necessary to correct the output signal of the pixel for phase difference detection.

特許文献1〜4は、位相差検出用の画素の出力信号を、その周りの通常の画素の出力信号を用いて補間生成する補間補正処理と、位相差検出用の画素の出力信号をゲイン増幅して補正するゲイン補正処理とを併用する撮像装置を開示している。   Patent Documents 1 to 4 describe an interpolation correction process for generating an output signal of a pixel for phase difference detection using an output signal of a normal pixel around it, and gain amplification of the output signal of the pixel for phase difference detection An image pickup apparatus that uses a gain correction process that corrects the correction is disclosed.

特開2009−44636号公報JP 2009-44636 A 特開2011−124704号公報JP 2011-124704 A 特開2011−81271号公報JP 2011-81271 A 特開2007−282108号公報JP 2007-282108 A

上述したゲイン補正処理に用いるゲイン値の算出方法は、位相差検出用画素の出力信号と撮像用画素の出力信号との比に基づいて求める方法が一例として挙げられる。しかし、この方法において、位相差検出用画素の出力信号や撮像用画素の出力信号が、飽和レベルに達していたり(白とび)、あまりにも小さい値(黒潰れ)であったりした場合には、求まるゲイン値の信頼性が低下するおそれがある。特許文献1〜4は、補正ゲイン値の生成方法については特に触れていない。   An example of a method for calculating the gain value used in the above-described gain correction processing is a method of obtaining the gain value based on the ratio between the output signal of the phase difference detection pixel and the output signal of the imaging pixel. However, in this method, if the output signal of the phase difference detection pixel or the output signal of the imaging pixel has reached a saturation level (overexposure) or too small value (blackout), There is a possibility that the reliability of the gain value to be obtained may be lowered. Patent Documents 1 to 4 do not particularly mention a method for generating a correction gain value.

本発明は、上記事情に鑑みてなされたものであり、位相差検出用の画素の出力信号の補正精度を向上させることのできる撮像装置及び信号処理方法を提供することを目的とする。   The present invention has been made in view of the above circumstances, and an object thereof is to provide an imaging apparatus and a signal processing method that can improve the correction accuracy of an output signal of a phase difference detection pixel.

本発明の撮像装置は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子を有する撮像装置であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理部と、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成部と、を備えるものである。   The imaging device of the present invention is an imaging device having an imaging element that images a subject through an imaging optical system including a focus lens, and the imaging element includes a plurality of imaging pixels arranged in a two-dimensional array on a light receiving surface. And a plurality of types of phase difference detection pixels having different structures, the output signal value of the phase difference detection pixel included in the captured image signal output from the image sensor, and the phase difference detection pixel A gain correction processing unit that corrects the output signal value by multiplying a corresponding correction gain value, and an area where the phase difference detection pixel is arranged on the light receiving surface is the plurality of types of phase difference detection pixels and the imaging A correction gain value corresponding to the group is divided by the imaging element for each group of phase difference detection pixels of the same type belonging to each block. A correction gain value generator for generating by using the captured image signal obtained by imaging an object, but with a.

この構成によれば、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値が生成される。個々の位相差検出用画素毎にゲイン値を生成する場合は、ゲイン値の生成対象となる位相差検出用画素の周囲にある撮像用画素が白とびや黒つぶれしていた場合に、生成されるゲイン値は信頼性の低いものとなる。上記構成によれば、ブロックにある同一種類の位相差検出用画素のグループに対して、例えばそのグループの各位相差検出用画素の信号と、各位相差検出用画素の周囲にある撮像用画素の信号を用いて1つのゲイン値を生成することができるため、撮像用画素のいくつかが白とびや黒つぶれしていても、ゲイン値の信頼性に与える影響を減らすことができる。また、ブロックについて生成されるゲイン値の信頼性が低い場合でも、信頼性の高いゲイン値が生成されたブロックのそのゲイン値を用いて、信頼性の低いブロックのゲイン値を補間することも可能になる。このように、ブロック毎にゲイン値を管理することで、位相差検出用の画素の出力信号の補正精度を向上させることができる。   According to this configuration, a correction gain value corresponding to the group is generated for each group of the same type of phase difference detection pixels belonging to each block. When a gain value is generated for each individual phase difference detection pixel, it is generated when the imaging pixels around the phase difference detection pixel for which the gain value is to be generated are overexposed or underexposed. The gain value is low in reliability. According to the above configuration, for each group of phase difference detection pixels of the same type in the block, for example, a signal of each phase difference detection pixel of the group and a signal of imaging pixels around each phase difference detection pixel Can be used to generate one gain value, so that the influence of the gain value on the reliability can be reduced even if some of the imaging pixels are overexposed or underexposed. In addition, even if the gain value generated for a block is low in reliability, it is possible to interpolate the gain value of a block with low reliability using the gain value of the block in which a highly reliable gain value was generated. become. Thus, by managing the gain value for each block, it is possible to improve the correction accuracy of the output signal of the phase difference detection pixel.

本発明の信号処理方法は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号を処理する信号処理方法であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、を備えるものである。   The signal processing method of the present invention is a signal processing method for processing a picked-up image signal output from an image pickup device that picks up an object through an image pickup optical system including a focus lens, and the image pickup device has a two-dimensional array on a light receiving surface. Output signals of the phase difference detection pixels included in the picked-up image signal output from the image pickup device, including a plurality of image pickup pixels and a plurality of types of phase difference detection pixels having different structures. A gain correction processing step for correcting the output signal value by multiplying the value by a correction gain value corresponding to the phase difference detection pixel, and the areas where the phase difference detection pixels are arranged on the light receiving surface. Are divided into a plurality of blocks including the phase difference detection pixels and the imaging pixels, and each group of the same kind of phase difference detection pixels belonging to each block The corresponding correction gain value, in which and a correction gain value generating step of generating by using the captured image signal obtained by imaging a subject by the image pickup device.

本発明の信号処理プログラムは、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号をコンピュータにより処理するための信号処理プログラムであって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、をコンピュータに実行させるためのプログラムである。   The signal processing program of the present invention is a signal processing program for processing a picked-up image signal output from an image pickup device that picks up an object through an image pickup optical system including a focus lens, and the image pickup device has a light receiving surface. Including a plurality of imaging pixels arranged in a two-dimensional array and a plurality of types of phase difference detection pixels having different structures, and for detecting the phase difference included in a captured image signal output from the imaging element. A gain correction processing step for correcting the output signal value by multiplying the output signal value of the pixel by a correction gain value corresponding to the phase difference detection pixel; and an area in which the phase difference detection pixel is arranged on the light receiving surface Is divided into a plurality of blocks including the plurality of types of phase difference detection pixels and the imaging pixels, and the same type of phase difference detection belonging to each block is divided. For causing a computer to execute a correction gain value generation step for generating, for each group of pixels, a correction gain value corresponding to the group using a captured image signal obtained by imaging a subject with the imaging element. It is a program.

本発明によれば、位相差検出用の画素の出力信号の補正精度を向上させることのできる撮像装置及び信号処理方法を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the imaging device and signal processing method which can improve the correction | amendment precision of the output signal of the pixel for phase difference detection can be provided.

本発明の一実施形態を説明するための撮像装置の一例としてのデジタルカメラの概略構成を示す図The figure which shows schematic structure of the digital camera as an example of the imaging device for describing one Embodiment of this invention 図1に示すデジタルカメラに搭載される固体撮像素子3の概略構成を示す平面模式図1 is a schematic plan view showing a schematic configuration of a solid-state imaging device 3 mounted on the digital camera shown in FIG. 図1に示すデジタルカメラのデジタル信号処理部17の機能ブロック図Functional block diagram of the digital signal processing unit 17 of the digital camera shown in FIG. 図1に示す固体撮像素子3の受光面を示す平面模式図FIG. 1 is a schematic plan view showing a light receiving surface of the solid-state imaging device 3 shown in FIG. 図1に示すデジタルカメラにおけるデジタル信号処理部17の動作を説明するためのフローチャートThe flowchart for demonstrating operation | movement of the digital signal processing part 17 in the digital camera shown in FIG. 図1に示すデジタルカメラにおけるデジタル信号処理部17の動作を説明するための図The figure for demonstrating operation | movement of the digital signal processing part 17 in the digital camera shown in FIG. 図1に示すデジタルカメラにおけるデジタル信号処理部17の動作を説明するための図The figure for demonstrating operation | movement of the digital signal processing part 17 in the digital camera shown in FIG. 撮像装置としてスマートフォンを説明する図The figure explaining a smart phone as an imaging device 図8のスマートフォンの内部ブロック図Internal block diagram of the smartphone of FIG.

以下、本発明の実施形態について図面を参照して説明する。   Embodiments of the present invention will be described below with reference to the drawings.

図1は、本発明の一実施形態を説明するための撮像装置の一例としてのデジタルカメラの概略構成を示す図である。   FIG. 1 is a diagram showing a schematic configuration of a digital camera as an example of an imaging apparatus for explaining an embodiment of the present invention.

図1に示すデジタルカメラの撮像系は、フォーカスレンズを含む撮影レンズ1及び絞り2を有する撮像光学系と、CCDイメージセンサやCMOSイメージセンサ等の固体撮像素子3とを備えている。このデジタルカメラは、図示しないマウント機構を有し、このマウント機構によって撮像光学系を着脱可能となっている。マウント機構を省略し、撮像光学系をデジタルカメラに固定としてもよい。   The imaging system of the digital camera shown in FIG. 1 includes an imaging optical system having a photographic lens 1 including a focus lens and an aperture 2, and a solid-state imaging device 3 such as a CCD image sensor or a CMOS image sensor. This digital camera has a mount mechanism (not shown), and an imaging optical system can be attached and detached by this mount mechanism. The mount mechanism may be omitted, and the imaging optical system may be fixed to the digital camera.

固体撮像素子3は、複数の撮像用画素と、撮像光学系の瞳領域の異なる部分を通過した一対の光束をそれぞれ受光する2種類の位相差検出用画素とを二次元状に配置した構成になっており、撮影レンズ1により結像される被写体像を受光して撮像画像信号を出力すると共に、上記一対の光束に対応する一対の像信号を出力する。   The solid-state imaging device 3 has a configuration in which a plurality of imaging pixels and two types of phase difference detection pixels that respectively receive a pair of light beams that have passed through different portions of the pupil region of the imaging optical system are two-dimensionally arranged. The object image formed by the photographing lens 1 is received and a captured image signal is output, and a pair of image signals corresponding to the pair of light beams is output.

デジタルカメラの電気制御系全体を統括制御するシステム制御部11は、フラッシュ発光部12及び受光部13を制御する。また、システム制御部11は、レンズ駆動部8を制御して撮影レンズ1に含まれるフォーカスレンズの位置を調整する。更に、システム制御部11は、絞り駆動部9を介して絞り2の開口量を制御することにより、露光量の調整を行う。   A system control unit 11 that controls the entire electric control system of the digital camera controls the flash light emitting unit 12 and the light receiving unit 13. Further, the system control unit 11 controls the lens driving unit 8 to adjust the position of the focus lens included in the photographing lens 1. Further, the system control unit 11 adjusts the exposure amount by controlling the aperture amount of the aperture 2 via the aperture drive unit 9.

また、システム制御部11は、撮像素子駆動部10を介して固体撮像素子3を駆動し、撮影レンズ1を通して撮像した被写体像を撮像画像信号として出力させる。システム制御部11には、操作部14を通してユーザからの指示信号が入力される。   Further, the system control unit 11 drives the solid-state imaging device 3 via the imaging device driving unit 10 and outputs a subject image captured through the photographing lens 1 as a captured image signal. An instruction signal from the user is input to the system control unit 11 through the operation unit 14.

デジタルカメラの電気制御系は、更に、固体撮像素子3の出力に接続された相関二重サンプリング処理等のアナログ信号処理を行うアナログ信号処理部6と、このアナログ信号処理部6から出力されるRGBの色信号をデジタル信号に変換するA/D変換回路7とを備える。アナログ信号処理部6及びA/D変換回路7は、システム制御部11によって制御される。   The electric control system of the digital camera further includes an analog signal processing unit 6 that performs analog signal processing such as correlated double sampling processing connected to the output of the solid-state imaging device 3, and RGB output from the analog signal processing unit 6. And an A / D conversion circuit 7 for converting the color signal into a digital signal. The analog signal processing unit 6 and the A / D conversion circuit 7 are controlled by the system control unit 11.

更に、このデジタルカメラの電気制御系は、メインメモリ16と、メインメモリ16に接続されたメモリ制御部15と、固体撮像素子3によって撮像して得られる撮像画像信号に対し、各種画像処理を行って撮影画像データを生成するデジタル信号処理部17と、デジタル信号処理部17で生成された撮影画像データをJPEG形式に圧縮したり圧縮画像データを伸張したりする圧縮伸張処理部18と、固体撮像素子3の2種類の位相差検出用画素から出力される一対の像信号の位相差に基づいて撮影レンズ1のデフォーカス量を算出する焦点検出部19と、着脱自在の記録媒体21が接続される外部メモリ制御部20と、カメラ背面等に搭載された表示部23が接続される表示制御部22とを備えている。メモリ制御部15、デジタル信号処理部17、圧縮伸張処理部18、焦点検出部19、外部メモリ制御部20、及び表示制御部22は、制御バス24及びデータバス25によって相互に接続され、システム制御部11からの指令によって制御される。   Furthermore, the electric control system of the digital camera performs various image processing on the main memory 16, the memory control unit 15 connected to the main memory 16, and the captured image signal obtained by imaging with the solid-state image sensor 3. A digital signal processing unit 17 for generating captured image data, a compression / decompression processing unit 18 for compressing the captured image data generated by the digital signal processing unit 17 into a JPEG format or expanding compressed image data, and solid-state imaging A focus detection unit 19 that calculates a defocus amount of the photographing lens 1 based on a phase difference between a pair of image signals output from two types of phase difference detection pixels of the element 3 and a detachable recording medium 21 are connected. An external memory control unit 20 and a display control unit 22 to which a display unit 23 mounted on the back of the camera or the like is connected. The memory control unit 15, digital signal processing unit 17, compression / decompression processing unit 18, focus detection unit 19, external memory control unit 20, and display control unit 22 are mutually connected by a control bus 24 and a data bus 25, and system control is performed. It is controlled by a command from the unit 11.

図2は、図1に示すデジタルカメラに搭載される固体撮像素子3の概略構成を示す平面模式図である。固体撮像素子3は、画素が二次元状に配置される受光面の全面又は一部に、位相差検出用画素が散在して設けられている。図2は、受光面のうちの、位相差検出用画素が設けられている部分を拡大した図を示している。   FIG. 2 is a schematic plan view showing a schematic configuration of the solid-state imaging device 3 mounted on the digital camera shown in FIG. The solid-state imaging device 3 is provided with phase detection pixels scattered all over or a part of the light receiving surface where the pixels are two-dimensionally arranged. FIG. 2 is an enlarged view of a portion of the light receiving surface where the phase difference detection pixels are provided.

固体撮像素子3は、行方向X及びこれに直交する列方向Yに二次元状(図2の例では正方格子状)に配列された多数の画素(図中の各正方形)を備えている。多数の画素は、行方向Xに一定ピッチで並ぶ複数の画素からなる画素行を、列方向Yに一定のピッチで並べた配置となっている。多数の画素は、撮像用画素30と位相差検出用画素31Lと位相差検出用画素31Rとを含んでいる。各画素は光を受光して電荷に変換する光電変換部を含む。   The solid-state imaging device 3 includes a large number of pixels (each square in the figure) arranged two-dimensionally (in the example of FIG. 2 in the form of a square lattice) in the row direction X and the column direction Y orthogonal thereto. A large number of pixels are arranged such that pixel rows composed of a plurality of pixels arranged in a row direction X at a constant pitch are arranged in a column direction Y at a constant pitch. The large number of pixels includes an imaging pixel 30, a phase difference detection pixel 31L, and a phase difference detection pixel 31R. Each pixel includes a photoelectric conversion unit that receives light and converts it into electric charges.

撮像用画素30は、図1に示す撮影レンズ1の瞳領域の異なる2つの部分を通過した一対の光(例えば撮影レンズ1の主軸に対して左側を通過した光と右側を通過した光)の双方を受光する画素である。   The imaging pixel 30 is a pair of light that has passed through two different portions of the pupil region of the photographing lens 1 shown in FIG. 1 (for example, light that has passed through the left side and light that has passed through the right side with respect to the main axis of the photographing lens 1). It is a pixel that receives both.

位相差検出用画素31Lは、上記一対の光の一方を受光する画素であり、撮像用画素30と比較すると、光電変換部の開口(ハッチングを付していない領域)が左側に偏心した構成となっている。   The phase difference detection pixel 31L is a pixel that receives one of the pair of lights, and has a configuration in which the opening of the photoelectric conversion unit (a region not hatched) is decentered to the left as compared with the imaging pixel 30. It has become.

位相差検出用画素31Rは、上記一対の光の他方を受光する画素であり、撮像用画素30と比較すると、光電変換部の開口(ハッチングを付していない領域)が右側に偏心した構成となっている。   The phase difference detection pixel 31 </ b> R is a pixel that receives the other of the pair of lights. Compared with the imaging pixel 30, the opening of the photoelectric conversion unit (the area not hatched) is eccentric to the right side. It has become.

なお、位相差検出用画素の構成は上述したものに限らず、よく知られている構成を採用することができる。   Note that the configuration of the phase difference detection pixel is not limited to that described above, and a well-known configuration can be employed.

例えば、2つの画素に跨って1つのマイクロレンズを設けることで、この2つの画素に位相差検出用画素31R,31Lと同等の機能を持たせた構成としてもよい。また、光電変換部の開口は同じ構成とし、光電変換部上方に設けるマイクロレンズを行方向Xに互いに逆方向に偏心させることで、位相差検出用画素31R,31Lを構成してもよい。   For example, by providing one microlens across two pixels, the two pixels may have a function equivalent to that of the phase difference detection pixels 31R and 31L. Alternatively, the openings of the photoelectric conversion units may have the same configuration, and the phase difference detection pixels 31R and 31L may be configured by decentering the microlenses provided above the photoelectric conversion units in the row direction X in opposite directions.

また、ここでは、位相差検出用画素31R及び位相差検出用画素31Lによって、行方向Xに位相差を持つ一対の像信号を検出するものとしたが、遮光膜開口の偏心方向を例えば列方向Yにして、列方向Yに位相差を持つ一対の像信号を検出するようにしてもよい。   Here, the pair of image signals having the phase difference in the row direction X is detected by the phase difference detection pixel 31R and the phase difference detection pixel 31L. However, the eccentric direction of the light shielding film opening is, for example, the column direction. A pair of image signals having a phase difference in the column direction Y may be detected as Y.

各画素に含まれる光電変換部の上方にはカラーフィルタが搭載されており、このカラーフィルタの配列が固体撮像素子3を構成する多数の画素全体でベイヤー配列となっている。   A color filter is mounted above the photoelectric conversion unit included in each pixel, and the arrangement of the color filter is a Bayer arrangement over the entire number of pixels constituting the solid-state imaging device 3.

図2では、赤色(R)光を透過するカラーフィルタが搭載される画素に“R”を記している。また、緑色(G)光を透過するカラーフィルタが搭載される画素に“G”を記している。更に、青色(B)光を透過するカラーフィルタが搭載される画素に“B”を記している。なお、カラーフィルタは4色以上としてもよい。   In FIG. 2, “R” is marked on a pixel on which a color filter that transmits red (R) light is mounted. In addition, “G” is written in a pixel on which a color filter that transmits green (G) light is mounted. Further, “B” is marked on a pixel on which a color filter that transmits blue (B) light is mounted. Note that the color filter may have four or more colors.

位相差検出用画素31Lは、図2の上から3番目と9番目の画素行において、緑色(G)光を透過するカラーフィルタが搭載された画素の位置に3画素おきに配置されている。   The phase difference detection pixels 31L are arranged at intervals of three pixels at the positions of the pixels on which the color filters that transmit green (G) light are mounted in the third and ninth pixel rows from the top in FIG.

位相差検出用画素31Rは、図2の上から4番目と10番目の画素行において、緑色(G)光を透過するカラーフィルタが搭載された画素の位置に3画素おきに配置されている。   The phase difference detection pixels 31R are arranged at intervals of three pixels at the positions of the pixels on which the color filters that transmit green (G) light are mounted in the fourth and tenth pixel rows from the top in FIG.

斜め方向に隣接する位相差検出用画素31Lと位相差検出用画素31Rはペアを構成しており、固体撮像素子3の受光面には、このペアが複数設けられた構成となっている。位相差検出用画素のペアは隣接していなくてもよく、数画素程度離れていてもよい。   The phase difference detection pixels 31L and the phase difference detection pixels 31R adjacent in the oblique direction form a pair, and the light receiving surface of the solid-state imaging device 3 is provided with a plurality of pairs. The pair of phase difference detection pixels may not be adjacent to each other, and may be separated by several pixels.

図1に示す焦点検出部19は、位相差検出用画素31L及び位相差検出用画素31Rから読み出される信号群を用いて、撮影レンズ1の焦点調節状態、ここでは合焦状態から離れている量とその方向、すなわちデフォーカス量を算出する。   The focus detection unit 19 shown in FIG. 1 uses a signal group read from the phase difference detection pixel 31L and the phase difference detection pixel 31R, and is an amount that is away from the focus adjustment state of the photographing lens 1, here the focus state. And its direction, that is, the defocus amount is calculated.

図1に示すシステム制御部11は、焦点検出部19によって算出されたデフォーカス量に基づいて、撮像レンズ1に含まれるフォーカスレンズの位置を制御して焦点調節を行う。   The system control unit 11 illustrated in FIG. 1 performs focus adjustment by controlling the position of the focus lens included in the imaging lens 1 based on the defocus amount calculated by the focus detection unit 19.

焦点調節が行われた状態で撮影指示がなされると、システム制御部11は、固体撮像素子3により撮像を行わせ、この撮像によって固体撮像素子3から出力される撮像画像信号(各画素から出力される出力信号の集合)がデジタル信号処理部17に取り込まれる。   When a shooting instruction is given in a state where focus adjustment has been performed, the system control unit 11 causes the solid-state imaging device 3 to perform imaging, and a captured image signal (output from each pixel) output from the solid-state imaging device 3 by this imaging. A set of output signals) is taken into the digital signal processing unit 17.

そして、デジタル信号処理部17は、この撮像画像信号に含まれる位相差検出用画素の出力信号を補正し、補正後の撮像画像信号をメインメモリ16に記録する。更に、デジタル信号処理部17は、記録した撮像画像信号を画像処理して、撮像画像データを生成する。この画像処理には、デモザイク処理、γ補正処理、ホワイトバランス調整処理等が含まれる。   The digital signal processing unit 17 corrects the output signal of the phase difference detection pixel included in the captured image signal, and records the corrected captured image signal in the main memory 16. Further, the digital signal processing unit 17 performs image processing on the recorded captured image signal to generate captured image data. This image processing includes demosaic processing, γ correction processing, white balance adjustment processing, and the like.

図3は、図1に示すデジタルカメラにおけるデジタル信号処理部17の機能ブロック図である。   FIG. 3 is a functional block diagram of the digital signal processing unit 17 in the digital camera shown in FIG.

デジタル信号処理部17は、ゲイン補正処理部171と、補正ゲイン値生成部172と、画像処理部173と、を備える。これらは、デジタル信号処理部17に含まれるプロセッサがプログラムを実行することで形成される機能ブロックである。   The digital signal processing unit 17 includes a gain correction processing unit 171, a correction gain value generation unit 172, and an image processing unit 173. These are functional blocks formed by a processor included in the digital signal processing unit 17 executing a program.

ゲイン補正処理部171は、撮像画像信号に含まれる補正対象の位相差検出用画素(以下、補正対象画素という)の出力信号を当該出力信号に補正ゲイン値を乗じて補正するゲイン補正処理を行う。   The gain correction processing unit 171 performs gain correction processing for correcting an output signal of a correction target phase difference detection pixel (hereinafter referred to as a correction target pixel) included in the captured image signal by multiplying the output signal by a correction gain value. .

補正ゲイン値生成部172は、ゲイン補正処理部171が用いる上記補正ゲイン値を、ライブビュー画像表示のための撮像によって得た撮像画像信号を用いて生成する。   The correction gain value generation unit 172 generates the correction gain value used by the gain correction processing unit 171 using a captured image signal obtained by imaging for live view image display.

画像処理部173は、補正後の補正対象画素の出力信号を含む撮像画像信号を画像処理して撮像画像データを生成し、記録媒体21に記録する。なお、画像処理部173は、補正後の撮像画像信号をRAWデータとしてそのまま記録媒体21に記録してもよい。   The image processing unit 173 performs image processing on the captured image signal including the output signal of the corrected pixel to be corrected, generates captured image data, and records the captured image data in the recording medium 21. The image processing unit 173 may record the corrected captured image signal as RAW data on the recording medium 21 as it is.

次に、補正ゲイン値生成部172について詳細に説明する。   Next, the correction gain value generation unit 172 will be described in detail.

補正ゲイン値生成部172は、図4に示すように、固体撮像素子3の受光面30におけるAFエリア31(位相差検出用画素のペアが配置される、焦点検出の対象となるエリア)を、位相差検出用画素31R、位相差検出用画素31L、及び撮像用画素31をそれぞれ含む複数個のブロック32(図4の例では6行×6列の36個)に分割する。   As shown in FIG. 4, the correction gain value generation unit 172 displays an AF area 31 (an area that is a target for focus detection in which a pair of phase difference detection pixels is arranged) on the light receiving surface 30 of the solid-state imaging device 3. The block is divided into a plurality of blocks 32 (36 in 6 rows × 6 columns in the example of FIG. 4) each including the phase difference detection pixel 31R, the phase difference detection pixel 31L, and the imaging pixel 31.

図4において、列方向Yに並ぶブロックからなる各ブロック列には、その上にC1、C2、・・・、C6の名称を記してある。また、行方向Xに並ぶブロックからなる各ブロック行には、その左にL1、L2、・・・、L6の名称を記してある。   4, names of C1, C2,..., C6 are written on each block row composed of blocks arranged in the row direction Y. In addition, each block row composed of blocks arranged in the row direction X has names L1, L2,..., L6 on the left.

上述したように、各ブロック32には、撮像用画素31と位相差検出用画素のペアとがそれぞれ複数個含まれている。各ブロック32に含まれる撮像用画素はほぼ同じとなっており、各ブロック32に含まれる位相差検出用画素のペアの数もほぼ同じとなっているが、これに限らない。   As described above, each block 32 includes a plurality of pairs of imaging pixels 31 and phase difference detection pixels. The imaging pixels included in each block 32 are substantially the same, and the number of pairs of phase difference detection pixels included in each block 32 is also approximately the same, but this is not a limitation.

図5は、補正ゲイン値生成部172の補正ゲイン値の生成動作を説明するためのフローチャートである。図4に示した36個のブロックの各々には予め1〜36までの番号が付与されている。   FIG. 5 is a flowchart for explaining a correction gain value generation operation of the correction gain value generation unit 172. Numbers 1 to 36 are assigned in advance to each of the 36 blocks shown in FIG.

固体撮像素子3によりライブビュー画像表示のための撮像が開始された後、操作部14に含まれるシャッタボタンの半押し操作により、AE(自動露出)及びAF(自動焦点調節)の指示が行われると、この指示の直後に固体撮像素子3から出力された撮像画像信号がメインメモリ16に記憶される。   After imaging for live view image display is started by the solid-state imaging device 3, instructions for AE (automatic exposure) and AF (automatic focus adjustment) are performed by half-pressing a shutter button included in the operation unit 14. Then, a captured image signal output from the solid-state imaging device 3 immediately after this instruction is stored in the main memory 16.

撮像画像信号が記憶されると、補正ゲイン値生成部172は、ステップS1においてi=1とし、次のステップS2において、番号iのブロック(iブロック)にある全ての位相差検出用画素31Rと全ての撮像用画素31の出力信号値を抽出する。   When the captured image signal is stored, the correction gain value generation unit 172 sets i = 1 in step S1, and in the next step S2, all the phase difference detection pixels 31R in the block of number i (i block) Output signal values of all the imaging pixels 31 are extracted.

次のステップS3において、補正ゲイン値生成部172は、抽出した出力信号値に、第一の閾値以上のレベルのものがあるか、又は、第二の閾値以下のレベルのものがあるか、を判定する。第一の閾値は画素の飽和レベルであり、第二の閾値は暗時ノイズ程度の小さな値である。つまり、ステップS3では、iブロック内の画素に飽和しているものや黒潰れしているものがあるかどうかを判定している。   In the next step S3, the correction gain value generation unit 172 determines whether the extracted output signal value has a level equal to or higher than the first threshold value or a level equal to or lower than the second threshold value. judge. The first threshold is a pixel saturation level, and the second threshold is a small value such as dark noise. That is, in step S3, it is determined whether there is a saturated pixel or a blackened pixel in the i block.

ステップS3の判定がNOの場合、補正ゲイン値生成部172は、ステップS6において、iブロック内にある全ての位相差検出用画素31Rの出力信号値を積算する。   When the determination in step S3 is NO, the correction gain value generation unit 172 integrates the output signal values of all the phase difference detection pixels 31R in the i block in step S6.

また、次のステップS7において、補正ゲイン値生成部172は、iブロックにある各位相差検出用画素31Rに最近接する少なくとも1個(好ましくは複数個)の同色を検出する撮像用画素(G色検出画素)31の出力信号値を積算する。例えば、位相差検出用画素31Rの周囲にある3つの撮像用画素を積算対象にすると、iブロックに位相差検出用画素31Rが10個あれば、3×10=30個の撮像用画素31の出力信号値を積算する。   In the next step S7, the correction gain value generation unit 172 detects at least one (preferably a plurality of) pixels for detecting the same color closest to each phase difference detection pixel 31R in the i block (G color detection). Pixel) 31 output signal values are integrated. For example, if three imaging pixels around the phase difference detection pixel 31R are to be integrated, if there are ten phase difference detection pixels 31R in the i block, 3 × 10 = 30 imaging pixels 31 Accumulate the output signal value.

次のステップS10で、補正ゲイン値生成部172は、ステップS6とステップS7で算出した2つの積算値の比(撮像用画素の積算値に所定係数を乗じたもの/位相差検出用画素の積算値)を、iブロックにおける位相差検出用画素31Rに対応する補正ゲイン値として生成し、これをメインメモリ16に記憶する。上記所定係数は、撮像用画素と位相差検出用画素の出力信号値の積算数の違いを考慮して決められる。   In the next step S10, the correction gain value generation unit 172 calculates the ratio of the two integrated values calculated in steps S6 and S7 (the integrated value of the imaging pixels multiplied by a predetermined coefficient / the integrated value of the phase difference detection pixels). Value) is generated as a correction gain value corresponding to the phase difference detection pixel 31R in the i block and stored in the main memory 16. The predetermined coefficient is determined in consideration of the difference in the number of integrated output signal values of the imaging pixel and the phase difference detection pixel.

なお、ここでは、積算値の比から補正ゲイン値を求めたが、iブロックにある全ての位相差検出用画素31Rの出力信号値の平均値と、各位相差検出用画素31Rの周囲にある撮像用画素31の出力信号値の平均値との比から補正ゲイン値を求めてもよい。   Here, although the correction gain value is obtained from the ratio of the integrated values, the average value of the output signal values of all the phase difference detection pixels 31R in the i block and the imaging around each of the phase difference detection pixels 31R. The correction gain value may be obtained from the ratio of the output signal value of the pixel 31 to the average value.

ステップS10の後、補正ゲイン値生成部172は、ステップS11において、i=36か否かを判定する。そして、ステップS11の判定がNOであれば、補正ゲイン値生成部172は、ステップS12においてi=i+1に変更して、ステップS2以降の処理を行う。ステップS11の判定がYESであれば、処理を終了する。   After step S10, the correction gain value generation unit 172 determines whether i = 36 in step S11. If the determination in step S11 is NO, the correction gain value generation unit 172 changes to i = i + 1 in step S12, and performs the processes in and after step S2. If the determination in step S11 is YES, the process ends.

ステップS3の判定がYESの場合、補正ゲイン値生成部172は、ステップS4において、iブロックにある位相差検出用画素31Rのうちの飽和又は黒潰れしている画素を除いた画素の数が第三の閾値以上であるか否かを判定する。   When the determination in step S3 is YES, the correction gain value generation unit 172 determines that the number of pixels excluding the saturated or blacked out pixels in the phase difference detection pixels 31R in the i block is the first in step S4. It is determined whether or not the threshold value is three or more.

ステップS4の判定がYESの場合、補正ゲイン値生成部172は、ステップS5において、iブロックにある補正ゲイン値を求める際に信号値を積算(又は平均)する対象となる撮像用画素31(各位相差検出用画素31Rの周囲にある撮像用画素31)のうちの飽和又は黒潰れしている画素を除いた画素の数が第四の閾値以上であるか否かを判定する。   When the determination in step S4 is YES, the correction gain value generation unit 172 determines in step S5 the imaging pixel 31 (each position) that is a target to be integrated (or averaged) when obtaining the correction gain value in the i block. It is determined whether or not the number of pixels excluding saturated or blackened pixels among the imaging pixels 31) around the phase difference detection pixels 31R is equal to or greater than a fourth threshold value.

ステップS10で求める補正ゲイン値の信頼性を十分なものとするのに最低限必要な、位相差検出用画素の出力信号の積算数(平均値を求める対象となる信号値の数)と撮像用画素の出力信号の積算数(平均値を求める対象となる信号値の数)とはそれぞれ決めておくことができ、これらの値が上記第三の閾値、第四の閾値となる。   The minimum number of output signals of the phase difference detection pixels (the number of signal values for which the average value is to be obtained) and the image pickup necessary for ensuring the reliability of the correction gain value obtained in step S10 is sufficient. The total number of pixel output signals (the number of signal values for which an average value is obtained) can be determined in advance, and these values serve as the third threshold value and the fourth threshold value.

ステップS4の判定がNOの場合とステップS5の判定がNOの場合、補正ゲイン値生成部172は、iブロックにある位相差検出用画素31Rに対応する補正ゲイン値の生成は行わずに、ステップS11に進む。   If the determination in step S4 is NO and the determination in step S5 is NO, the correction gain value generation unit 172 does not generate a correction gain value corresponding to the phase difference detection pixel 31R in the i block, and the step Proceed to S11.

ステップS5の判定がYESの場合、補間補正処理部172は、ステップS8において、iブロックにある位相差検出用画素31Rのうちの飽和又は黒潰れしている画素を除いた画素の出力信号値を積算する。   When the determination in step S5 is YES, the interpolation correction processing unit 172 outputs the output signal value of the pixel excluding the saturated or blacked out pixel in the phase difference detection pixel 31R in the i block in step S8. Accumulate.

続くステップS9において、補正ゲイン値生成部172は、iブロックにある積算対象のG色検出の撮像用画素31のうちの飽和又は黒潰れしている画素を除いた画素の出力信号値を積算する。   In subsequent step S9, the correction gain value generation unit 172 integrates the output signal values of the pixels excluding the saturated or blacked out pixels of the G-color detection imaging pixels 31 in the i block. .

ステップS9の後はステップS10に進み、補正ゲイン値生成部172は、ステップS8とステップS9で算出した2つの積算値を用いて、補正ゲイン値を生成する。   After step S9, the process proceeds to step S10, and the correction gain value generation unit 172 generates a correction gain value using the two integrated values calculated in step S8 and step S9.

補正ゲイン値生成部172は、図5に示した処理フローを位相差検出用画素31Lについても同様に行う。つまり、図5の説明において、“位相差検出用画素31R”を“位相差検出用画素31L”に置き換えた動作が行われる。   The correction gain value generation unit 172 similarly performs the processing flow shown in FIG. 5 for the phase difference detection pixel 31L. That is, in the description of FIG. 5, an operation is performed in which the “phase difference detection pixel 31R” is replaced with the “phase difference detection pixel 31L”.

このように、補正ゲイン値を、位相差検出用画素31Rと位相差検出用画素31Lとで別々に求めるのは、位相差検出用画素31Rと位相差検出用画素31Lとでは、受光面上の位置がほぼ同じでも、その感度に大きな差が生じている場合があるためである。   In this way, the correction gain value is obtained separately for the phase difference detection pixel 31R and the phase difference detection pixel 31L because the phase difference detection pixel 31R and the phase difference detection pixel 31L are on the light receiving surface. This is because even if the positions are substantially the same, there may be a large difference in sensitivity.

補正ゲイン値生成部172は、以上のようにしてブロック32毎に、位相差検出用画素31R(31L)に対応する補正ゲイン値の生成を試み、ステップS4又はステップS5の判定がNOとなったブロックについては、位相差検出用画素31R(31L)に対応する補正ゲイン値の生成は行わない。   As described above, the correction gain value generation unit 172 tries to generate a correction gain value corresponding to the phase difference detection pixel 31R (31L) for each block 32, and the determination in step S4 or step S5 is NO. For the block, the correction gain value corresponding to the phase difference detection pixel 31R (31L) is not generated.

図6と図7は、図5で説明した処理の結果を説明するための図である。図6,7は、図4に示した36個のブロック32を示している。図6,7では、各ブロック32に、補正ゲイン値が生成され記憶されている場合は“OK”を、補正ゲイン値が生成されずに記憶されていない場合は“NG”を記してある。   6 and 7 are diagrams for explaining the result of the process described in FIG. 6 and 7 show the 36 blocks 32 shown in FIG. 6 and 7, “OK” is written in each block 32 when the correction gain value is generated and stored, and “NG” is written when the correction gain value is not generated and stored.

このように、補正ゲイン値がまだ生成されていないブロック32について、補正ゲイン値生成部172は、そのブロック32に対応する補正ゲイン値を、そのブロック32の周囲にある、既に補正ゲイン値が生成されているブロック32の当該補正ゲイン値を利用して生成する。   As described above, for the block 32 for which the correction gain value has not yet been generated, the correction gain value generation unit 172 generates the correction gain value corresponding to the block 32 and the correction gain value already generated around the block 32. It is generated using the correction gain value of the block 32.

例えば、図6において、列C2かつ行L4のブロック32については、このブロック32に対して位相差検出用画素31R,31Lが位相差を検出する方向(行方向X)と直交する方向(列方向Y)にある他のブロック32(列C2かつ行L1,L2,L3,L5,L6のブロック32)について生成された補正ゲイン値を利用して、補正ゲイン値を生成する。   For example, in FIG. 6, with respect to the block 32 in the column C2 and the row L4, the direction (column direction) orthogonal to the direction (row direction X) in which the phase difference detection pixels 31R and 31L detect the phase difference with respect to the block 32. A correction gain value is generated by using the correction gain value generated for the other block 32 in Y) (the block 32 in column C2 and rows L1, L2, L3, L5, and L6).

具体的には、列C2かつ行L1のブロック32、列C2かつ行L2のブロック32、列C2かつ行L3のブロック32、列C2かつ行L5のブロック32、及び、列C2かつ行L6のブロック32、の5つのブロック32について生成された5つの補正ゲイン値の平均値を算出し、この平均値を、列C2かつ行L4のブロック32の補正ゲイン値とする。   Specifically, block 32 in column C2 and row L1, block 32 in column C2 and row L2, block 32 in column C2 and row L3, block 32 in column C2 and row L5, and block in column C2 and row L6 32, the average value of the five correction gain values generated for the five blocks 32 is calculated, and this average value is set as the correction gain value of the block 32 in the column C2 and the row L4.

または、列C2かつ行L4のブロック32に対し列方向Yに最近接する2つのブロック(列C2かつ行L3のブロック32と、列C2かつ行L5のブロック32)について生成された2つの補正ゲイン値の平均値を算出し、この平均値を、列C2かつ行L4のブロック32の補正ゲイン値とする。   Alternatively, two correction gain values generated for the two blocks closest to the block 32 in the column C2 and row L4 in the column direction Y (the block 32 in the column C2 and row L3 and the block 32 in the column C2 and row L5). And the average value is used as the correction gain value of the block 32 in the column C2 and the row L4.

位相差検出用画素31R(又は31L)は、列方向Yにおいては、どの位置にあっても感度が同等になる。このため、補正ゲイン値が生成されていないブロック32については、そのブロック32を含むブロック列に含まれるブロック32に対応する補正ゲイン値を利用して補正ゲイン値を算出することで、補正ゲイン値の信頼性を高めることができる。   The phase difference detection pixels 31R (or 31L) have the same sensitivity in any position in the column direction Y. Therefore, for the block 32 for which no correction gain value is generated, the correction gain value is calculated by using the correction gain value corresponding to the block 32 included in the block row including the block 32, thereby correcting the correction gain value. Can improve the reliability.

上記説明では、“NG”のブロック32を含むブロック列について求められた複数の補正ゲイン値の平均値を、当該ブロック32の補正ゲイン値としている。このように、列方向Yに並ぶ複数ブロックの補正ゲイン値を平均化することで、ブロック毎の被写体像の違いによる補正ゲイン値の差を吸収することができ、この点からも補正ゲイン値の信頼性を高めることができる。   In the above description, the average value of the plurality of correction gain values obtained for the block row including the “NG” block 32 is used as the correction gain value of the block 32. In this way, by averaging the correction gain values of a plurality of blocks arranged in the column direction Y, it is possible to absorb the difference in the correction gain values due to the difference in the subject image for each block. Reliability can be increased.

なお、図7に示したように、ブロック列に含まれる全てのブロック32が“NG”となってしまった場合は、上述した方法によって補正ゲイン値を補間生成することはできなくなる。   As shown in FIG. 7, when all the blocks 32 included in the block row are “NG”, the correction gain value cannot be generated by interpolation using the method described above.

そこで、このような場合には、補正ゲイン値生成部172は、“OK”のブロック32を含むブロック列であってブロック列C3に対して、位相差検出用画素31R,31Lが位相差を検出する方向(行方向X)に最近接する2つのブロック列(ブロック列C2,C4)を特定する。そして、特定した各ブロック列について生成された補正ゲイン値を用いて、ブロック列C3における各ブロック32に対応する補正ゲイン値を生成する。   Therefore, in such a case, the correction gain value generation unit 172 detects the phase difference of the phase difference detection pixels 31R and 31L with respect to the block row C3 including the block 32 of “OK”. Two block columns (block columns C2 and C4) that are closest to each other in the direction (row direction X) are specified. Then, the correction gain value corresponding to each block 32 in the block column C3 is generated using the correction gain value generated for each identified block column.

例えば、補正ゲイン値生成部172は、ブロック列C2に属する6つのブロック32の補正ゲイン値の平均値Av1を算出し、ブロック列C4に属する6つのブロック32の補正ゲイン値の平均値Av2を算出する。行方向Xにおける列C1〜C6の位置を横軸にプロットし、列C1〜C6について求まる補正ゲイン値を縦軸にプロットして得られるグラフは線形性を有することが分かっている。このため、補正ゲイン値生成部172は、平均値Av1と平均値Av2とを用いた線形補間によって、列C3に対する補正ゲイン値を求めることができる。   For example, the correction gain value generation unit 172 calculates the average value Av1 of the correction gain values of the six blocks 32 belonging to the block row C2, and calculates the average value Av2 of the correction gain values of the six blocks 32 belonging to the block row C4. To do. It has been found that the graph obtained by plotting the positions of the columns C1 to C6 in the row direction X on the horizontal axis and the correction gain values obtained for the columns C1 to C6 on the vertical axis has linearity. For this reason, the correction gain value generation unit 172 can obtain the correction gain value for the column C3 by linear interpolation using the average value Av1 and the average value Av2.

このようにして、補正ゲイン値生成部172は、全てのブロック32に対して、位相差検出用画素31Rと位相差検出用画素31Lとにそれぞれ対応する補正ゲイン値を生成する。一旦補正ゲイン値を生成した後は、ゲイン補正処理部171が、補正対象画素が属するブロックかつ当該補正対象画素の種類に対応するゲイン値をメインメモリ16から読み出し、このゲイン値を、当該補正対象画素の出力信号に乗じることでゲイン補正処理を行う。   In this manner, the correction gain value generation unit 172 generates correction gain values corresponding to the phase difference detection pixels 31R and the phase difference detection pixels 31L for all the blocks 32, respectively. Once the correction gain value is generated, the gain correction processing unit 171 reads the gain value corresponding to the block to which the correction target pixel belongs and the type of the correction target pixel from the main memory 16, and uses the gain value as the correction target value. Gain correction processing is performed by multiplying the output signal of the pixel.

以上のように、図1に示すデジタルカメラによれば、あるブロック32において、位相差検出用画素や撮像用画素に白とびや黒潰れが多く発生しており、ステップS10の処理によって信頼性の高い補正ゲイン値を生成できない場合には、他のブロック32について求めた補正ゲイン値を利用して、信頼性の高い補正ゲイン値の生成が可能となる。したがって、位相差検出用画素の出力信号の補正精度が低下するのを防ぐことができ、撮像画質の向上を図ることができる。   As described above, according to the digital camera shown in FIG. 1, in a certain block 32, a lot of overexposure and blackout occur in the phase difference detection pixels and the imaging pixels, and the processing in step S10 provides reliability. When a high correction gain value cannot be generated, it is possible to generate a correction gain value with high reliability by using correction gain values obtained for the other blocks 32. Therefore, it is possible to prevent the correction accuracy of the output signal of the phase difference detection pixel from being lowered, and it is possible to improve the captured image quality.

また、図1に示すデジタルカメラによれば、固体撮像素子3により撮像して得られる撮像画像信号を用いて、補正ゲイン値を生成することができる。このため、デジタルカメラに装着可能なあらゆるレンズ装置に対応して補正ゲイン値を予め生成してカメラ本体に記憶しておく必要がなくなり、カメラの調整工数の削減が可能となる。   In addition, according to the digital camera shown in FIG. 1, the correction gain value can be generated using the captured image signal obtained by imaging with the solid-state imaging device 3. For this reason, it is not necessary to generate a correction gain value in advance and store it in the camera body in correspondence with any lens apparatus that can be mounted on the digital camera, and the number of adjustment steps of the camera can be reduced.

図1に示すデジタルカメラのように、リアルタイムに補正ゲイン値を生成する構成では、撮像する被写体のパターンによって、白とびや黒潰れとなったりする可能性がある。このため、上述した方法によって補正ゲイン値を生成することが有効となる。   In the configuration in which the correction gain value is generated in real time like the digital camera shown in FIG. 1, there is a possibility of overexposure or blackout depending on the pattern of the subject to be imaged. For this reason, it is effective to generate the correction gain value by the method described above.

また、図1に示すデジタルカメラによれば、レンズID以外の詳細な情報を取得できないようなレンズ装置であっても、そのレンズ装置を装着して撮影モードに設定し、AE・AF指示を行うだけで、補正ゲイン値を生成して記憶しておくことができる。このため、どのようなレンズ装置が装着された場合でも、撮像品質を向上させることができる。   In addition, according to the digital camera shown in FIG. 1, even if a lens device cannot acquire detailed information other than the lens ID, the lens device is mounted and set to a shooting mode, and an AE / AF instruction is issued. The correction gain value can be generated and stored simply. For this reason, the imaging quality can be improved regardless of what lens device is mounted.

また、以上の説明では、AE・AF指示を行ったときに補正ゲイン値を生成して記憶するものとしたが、補正ゲイン値を生成するタイミングはこれに限らない。例えば、撮影モードに設定されたタイミング、撮影モード中にレンズ装置が交換されたタイミング等としてもよい。   In the above description, the correction gain value is generated and stored when the AE / AF instruction is given. However, the timing for generating the correction gain value is not limited to this. For example, the timing set in the shooting mode, the timing when the lens apparatus is replaced during the shooting mode, or the like may be used.

補正ゲイン値生成部172が生成した各ブロック32に対応する補正ゲイン値は、それを求めるときにデジタルカメラに装着されているレンズ装置の識別情報と対応付けて、デジタルカメラのメインメモリ16に記録する構成としてもよいし、デジタルカメラの識別情報と対応付けて、レンズ装置内の記録媒体に記録する構成としてもよい。または、AE・AFの指示が行われる都度、補正ゲイン値を生成するようにしてもよい。   The correction gain value corresponding to each block 32 generated by the correction gain value generation unit 172 is recorded in the main memory 16 of the digital camera in association with the identification information of the lens device attached to the digital camera when it is obtained. It is good also as a structure to carry out, It is good also as a structure which matches with the identification information of a digital camera, and records on the recording medium in a lens apparatus. Alternatively, a correction gain value may be generated every time an AE / AF instruction is given.

図5のステップS4,5を省略し、ステップS3:YESのときにステップS8を行うようにしてもよい。この場合、ステップS10で算出した補正ゲイン値と関連付けて、ステップS6で積算した出力信号の数及びステップS7で積算した出力信号の数、又は、ステップS8で積算した出力信号の数及びステップS9で積算した出力信号の数をメインメモリ16に記憶しておく。   Steps S4 and 5 in FIG. 5 may be omitted, and step S8 may be performed when step S3: YES. In this case, in association with the correction gain value calculated in step S10, the number of output signals integrated in step S6 and the number of output signals integrated in step S7, or the number of output signals integrated in step S8 and step S9. The accumulated number of output signals is stored in the main memory 16.

そして、全てのブロック32について補正ゲイン値の算出が終わると、補正ゲイン値生成部172は、補正ゲイン値に関連付けられた位相差検出用画素の出力信号の積算数と撮像用画素の出力信号の積算数がそれぞれ第三の閾値以上となっているブロック32を“OK”ブロックと判断し、それ以外のブロック32を“NG”ブロックと判断する。そして、“NG”ブロックについて、上述した方法により、新たな補正ゲイン値を生成する。   When the calculation of the correction gain values for all the blocks 32 is completed, the correction gain value generation unit 172 outputs the accumulated number of output signals of the phase difference detection pixels associated with the correction gain values and the output signals of the imaging pixels. Blocks 32 whose accumulated numbers are each equal to or greater than the third threshold are determined as “OK” blocks, and other blocks 32 are determined as “NG” blocks. Then, a new correction gain value is generated for the “NG” block by the method described above.

以上、本発明を特定の実施形態によって説明したが、本発明はこの実施形態に限定されるものではなく、開示された発明の技術思想を逸脱しない範囲で種々の変更が可能である。   As mentioned above, although this invention was demonstrated by specific embodiment, this invention is not limited to this embodiment, A various change is possible in the range which does not deviate from the technical idea of the disclosed invention.

また、位相差検出用画素と撮像用画素を含む固体撮像素子3の画素配列は、図2に示したものに限らず、他の公知の配列を採用することができる。   Further, the pixel arrangement of the solid-state imaging device 3 including the phase difference detection pixels and the imaging pixels is not limited to that shown in FIG. 2, and other known arrangements can be adopted.

また、位相差検出用画素の検出色は緑色としたが、検出色を赤色又は青色にした構成であってもよい。また、固体撮像素子5は、モノクロ撮像用の撮像素子としてもよい。つまり、カラーフィルタは省略してもよい。   In addition, although the detection color of the phase difference detection pixel is green, the detection color may be red or blue. Further, the solid-state imaging device 5 may be an imaging device for monochrome imaging. That is, the color filter may be omitted.

また、デジタル信号処理部17は、ゲイン補正処理だけでなく、位相差検出用画素の出力信号を、その位相差検出用画素の周囲にある同色を検出する撮像用画素31の出力信号を用いて補間する補間補正処理と併用して、位相差検出用画素の出力信号の補正を行ってもよい。   The digital signal processing unit 17 uses not only the gain correction process but also the output signal of the phase difference detection pixel, and the output signal of the imaging pixel 31 that detects the same color around the phase difference detection pixel. In combination with the interpolation correction processing for interpolation, the output signal of the phase difference detection pixel may be corrected.

また、デジタル信号処理部17が行う処理を、コンピュータに実行させるためのプログラムとして提供することもできる。このようなプログラムは、当該プログラムをコンピュータが読取可能な一時的でない(non−transitory)記録媒体に記録される。   Moreover, the process which the digital signal processing part 17 performs can also be provided as a program for making a computer perform. Such a program is recorded on a non-transitory recording medium in which the computer can read the program.

このような「コンピュータ読取可能な記録媒体」は、たとえば、CD−ROM(Compact Disc−ROM)等の光学媒体や、メモリカード等の磁気記録媒体等を含む。また、このようなプログラムを、ネットワークを介したダウンロードによって提供することもできる。   Such “computer-readable recording medium” includes, for example, an optical medium such as a CD-ROM (Compact Disc-ROM), a magnetic recording medium such as a memory card, and the like. Such a program can also be provided by downloading via a network.

次に、撮像装置としてスマートフォンの構成について説明する。   Next, the configuration of a smartphone as an imaging device will be described.

図8は、本発明の撮影装置の一実施形態であるスマートフォン200の外観を示すものである。図8に示すスマートフォン200は、平板状の筐体201を有し、筐体201の一方の面に表示部としての表示パネル202と、入力部としての操作パネル203とが一体となった表示入力部204を備えている。また、この様な筐体201は、スピーカ205と、マイクロホン206と、操作部207と、カメラ部208とを備えている。なお、筐体201の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用したりすることもできる。   FIG. 8 shows an appearance of a smartphone 200 that is an embodiment of the photographing apparatus of the present invention. A smartphone 200 shown in FIG. 8 includes a flat housing 201, and a display input in which a display panel 202 as a display unit and an operation panel 203 as an input unit are integrated on one surface of the housing 201. Part 204 is provided. Such a housing 201 includes a speaker 205, a microphone 206, an operation unit 207, and a camera unit 208. Note that the configuration of the housing 201 is not limited thereto, and for example, a configuration in which the display unit and the input unit are independent can be employed, or a configuration having a folding structure and a slide mechanism can be employed.

図9は、図8に示すスマートフォン200の構成を示すブロック図である。図9に示すように、スマートフォンの主たる構成要素として、無線通信部210と、表示入力部204と、通話部211と、操作部207と、カメラ部208と、記憶部212と、外部入出力部213と、GPS(Global Positioning System)受信部214と、モーションセンサ部215と、電源部216と、主制御部220とを備える。また、スマートフォン200の主たる機能として、図示省略の基地局装置BSと図示省略の移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。   FIG. 9 is a block diagram showing a configuration of the smartphone 200 shown in FIG. As shown in FIG. 9, the main components of the smartphone include a wireless communication unit 210, a display input unit 204, a call unit 211, an operation unit 207, a camera unit 208, a storage unit 212, and an external input / output unit. 213, a GPS (Global Positioning System) receiving unit 214, a motion sensor unit 215, a power supply unit 216, and a main control unit 220. As a main function of the smartphone 200, a wireless communication function for performing mobile wireless communication via a base station device BS (not shown) and a mobile communication network NW (not shown) is provided.

無線通信部210は、主制御部220の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。   The radio communication unit 210 performs radio communication with the base station apparatus BS accommodated in the mobile communication network NW according to an instruction from the main control unit 220. Using this wireless communication, transmission and reception of various file data such as audio data and image data, e-mail data, and reception of Web data and streaming data are performed.

表示入力部204は、主制御部220の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル202と、操作パネル203とを備える。   The display input unit 204 controls the main control unit 220 to display images (still images and moving images), character information, and the like to visually transmit information to the user and to detect user operations on the displayed information. A so-called touch panel, which includes a display panel 202 and an operation panel 203.

表示パネル202は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いたものである。   The display panel 202 uses an LCD (Liquid Crystal Display), an OELD (Organic Electro-Luminescence Display), or the like as a display device.

操作パネル203は、表示パネル202の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部220に出力する。次いで、主制御部220は、受信した検出信号に基づいて、表示パネル202上の操作位置(座標)を検出する。   The operation panel 203 is a device that is placed so that an image displayed on the display surface of the display panel 202 is visible and detects one or more coordinates operated by a user's finger or stylus. When this device is operated with a user's finger or stylus, a detection signal generated due to the operation is output to the main control unit 220. Next, the main control unit 220 detects an operation position (coordinates) on the display panel 202 based on the received detection signal.

図8に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン200の表示パネル202と操作パネル203とは一体となって表示入力部204を構成しているが、操作パネル203が表示パネル202を完全に覆うような配置となっている。   As shown in FIG. 8, the display panel 202 and the operation panel 203 of the smartphone 200 exemplified as an embodiment of the photographing apparatus of the present invention integrally constitute a display input unit 204. The arrangement 203 covers the display panel 202 completely.

係る配置を採用した場合、操作パネル203は、表示パネル202外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル203は、表示パネル202に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル202に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。   When such an arrangement is adopted, the operation panel 203 may have a function of detecting a user operation even in an area outside the display panel 202. In other words, the operation panel 203 includes a detection area (hereinafter referred to as a display area) for an overlapping portion that overlaps the display panel 202 and a detection area (hereinafter, a non-display area) for an outer edge portion that does not overlap the other display panel 202. May be included).

なお、表示領域の大きさと表示パネル202の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル203が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体201の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル203で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。   Note that the size of the display area and the size of the display panel 202 may be completely matched, but it is not always necessary to match them. In addition, the operation panel 203 may include two sensitive areas of the outer edge portion and the other inner portion. Further, the width of the outer edge portion is appropriately designed according to the size of the housing 201 and the like. Furthermore, examples of the position detection method employed in the operation panel 203 include a matrix switch method, a resistance film method, a surface acoustic wave method, an infrared method, an electromagnetic induction method, a capacitance method, and the like. You can also

通話部211は、スピーカ205やマイクロホン206を備え、マイクロホン206を通じて入力されたユーザの音声を主制御部220にて処理可能な音声データに変換して主制御部220に出力したり、無線通信部210あるいは外部入出力部213により受信された音声データを復号してスピーカ205から出力させたりするものである。また、図8に示すように、例えば、スピーカ205を表示入力部204が設けられた面と同じ面に搭載し、マイクロホン206を筐体201の側面に搭載することができる。   The call unit 211 includes a speaker 205 and a microphone 206, converts user's voice input through the microphone 206 into voice data that can be processed by the main control unit 220, and outputs the voice data to the main control unit 220. 210 or the audio data received by the external input / output unit 213 is decoded and output from the speaker 205. Further, as shown in FIG. 8, for example, the speaker 205 can be mounted on the same surface as the display input unit 204 and the microphone 206 can be mounted on the side surface of the housing 201.

操作部207は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図8に示すように、操作部207は、スマートフォン200の筐体201の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。   The operation unit 207 is a hardware key using a key switch or the like, and receives an instruction from the user. For example, as illustrated in FIG. 8, the operation unit 207 is mounted on the side surface of the housing 201 of the smartphone 200 and turns on when pressed with a finger or the like, and turns off when a finger is released with a restoring force such as a spring. It is a push button type switch.

記憶部212は、主制御部220の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部212は、スマートフォン内蔵の内部記憶部217と着脱自在な外部メモリスロットを有する外部記憶部218により構成される。なお、記憶部212を構成するそれぞれの内部記憶部217と外部記憶部218は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。   The storage unit 212 includes a control program and control data of the main control unit 220, application software, address data that associates the name and telephone number of a communication partner, transmitted / received e-mail data, Web data downloaded by Web browsing, The downloaded content data is stored, and streaming data and the like are temporarily stored. The storage unit 212 includes an internal storage unit 217 built in the smartphone and an external storage unit 218 having a removable external memory slot. Each of the internal storage unit 217 and external storage unit 218 constituting the storage unit 212 includes a flash memory type, a hard disk type, a multimedia card micro type, and a multi-media card micro type. It is realized using a storage medium such as a card type memory (for example, MicroSD (registered trademark) memory), a RAM (Random Access Memory), a ROM (Read Only Memory) or the like.

外部入出力部213は、スマートフォン200に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。   The external input / output unit 213 serves as an interface with all external devices connected to the smartphone 200, and communicates with other external devices (for example, universal serial bus (USB), IEEE 1394, etc.) or a network. (For example, the Internet, wireless LAN, Bluetooth (registered trademark), RFID (Radio Frequency Identification), Infrared Data Association (IrDA) (registered trademark), UWB (Ultra Wideband) (registered trademark) ZigBee) (registered trademark, etc.) for direct or indirect connection.

スマートフォン200に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部213は、このような外部機器から伝送を受けたデータをスマートフォン200の内部の各構成要素に伝達することや、スマートフォン200の内部のデータが外部機器に伝送されるようにすることができる。   As an external device connected to the smartphone 200, for example, a wired / wireless headset, a wired / wireless external charger, a wired / wireless data port, a memory card (Memory card) or SIM (Subscriber) connected via a card socket, for example. Identity Module Card (UIM) / User Identity Module Card (UIM) card, external audio / video equipment connected via audio / video I / O (Input / Output) terminal, external audio / video equipment connected wirelessly, existence / non-existence There are a wirelessly connected smartphone, a wired / wireless personal computer, a wired / wireless PDA, a wired / wireless personal computer, an earphone, and the like. The external input / output unit 213 transmits data received from such an external device to each component inside the smartphone 200, or allows the data inside the smartphone 200 to be transmitted to the external device. Can do.

GPS受信部214は、主制御部220の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン200の緯度、経度、高度からなる位置を検出する。GPS受信部214は、無線通信部210や外部入出力部213(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。   The GPS receiving unit 214 receives GPS signals transmitted from the GPS satellites ST1 to STn in accordance with instructions from the main control unit 220, executes positioning calculation processing based on the received GPS signals, and calculates the latitude of the smartphone 200. Detect the position consisting of longitude and altitude. When the GPS reception unit 214 can acquire position information from the wireless communication unit 210 or the external input / output unit 213 (for example, a wireless LAN), the GPS reception unit 214 can also detect the position using the position information.

モーションセンサ部215は、例えば、3軸の加速度センサなどを備え、主制御部220の指示にしたがって、スマートフォン200の物理的な動きを検出する。スマートフォン200の物理的な動きを検出することにより、スマートフォン200の動く方向や加速度が検出される。係る検出結果は、主制御部220に出力されるものである。   The motion sensor unit 215 includes a triaxial acceleration sensor, for example, and detects the physical movement of the smartphone 200 in accordance with an instruction from the main control unit 220. By detecting the physical movement of the smartphone 200, the moving direction and acceleration of the smartphone 200 are detected. The detection result is output to the main control unit 220.

電源部216は、主制御部220の指示にしたがって、スマートフォン200の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。   The power supply unit 216 supplies power stored in a battery (not shown) to each unit of the smartphone 200 in accordance with an instruction from the main control unit 220.

主制御部220は、マイクロプロセッサを備え、記憶部212が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン200の各部を統括して制御するものである。また、主制御部220は、無線通信部210を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。   The main control unit 220 includes a microprocessor, operates according to a control program and control data stored in the storage unit 212, and controls each unit of the smartphone 200 in an integrated manner. In addition, the main control unit 220 includes a mobile communication control function that controls each unit of the communication system and an application processing function in order to perform voice communication and data communication through the wireless communication unit 210.

アプリケーション処理機能は、記憶部212が記憶するアプリケーションソフトウェアにしたがって主制御部220が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部213を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。   The application processing function is realized by the main control unit 220 operating according to application software stored in the storage unit 212. Examples of the application processing function include an infrared communication function for controlling the external input / output unit 213 to perform data communication with the opposite device, an e-mail function for transmitting / receiving e-mails, and a web browsing function for browsing web pages. .

また、主制御部220は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部204に表示する等の画像処理機能を備える。画像処理機能とは、主制御部220が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部204に表示する機能のことをいう。   Further, the main control unit 220 has an image processing function such as displaying video on the display input unit 204 based on image data (still image or moving image data) such as received data or downloaded streaming data. The image processing function is a function in which the main control unit 220 decodes the image data, performs image processing on the decoding result, and displays an image on the display input unit 204.

更に、主制御部220は、表示パネル202に対する表示制御と、操作部207、操作パネル203を通じたユーザ操作を検出する操作検出制御を実行する。表示制御の実行により、主制御部220は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル202の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。   Further, the main control unit 220 executes display control for the display panel 202 and operation detection control for detecting a user operation through the operation unit 207 and the operation panel 203. By executing the display control, the main control unit 220 displays an icon for starting application software, a software key such as a scroll bar, or a window for creating an e-mail. Note that the scroll bar refers to a software key for accepting an instruction to move the display portion of a large image that does not fit in the display area of the display panel 202.

また、操作検出制御の実行により、主制御部220は、操作部207を通じたユーザ操作を検出したり、操作パネル203を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。   In addition, by executing the operation detection control, the main control unit 220 detects a user operation through the operation unit 207 or accepts an operation on the icon or an input of a character string in the input field of the window through the operation panel 203. Or a display image scroll request through a scroll bar.

更に、操作検出制御の実行により主制御部220は、操作パネル203に対する操作位置が、表示パネル202に重なる重畳部分(表示領域)か、それ以外の表示パネル202に重ならない外縁部分(非表示領域)かを判定し、操作パネル203の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。   Further, by executing the operation detection control, the main control unit 220 causes the operation position with respect to the operation panel 203 to overlap with the display panel 202 (display area) or other outer edge part (non-display area) that does not overlap with the display panel 202. And a touch panel control function for controlling the sensitive area of the operation panel 203 and the display position of the software key.

また、主制御部220は、操作パネル203に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。   The main control unit 220 can also detect a gesture operation on the operation panel 203 and execute a preset function in accordance with the detected gesture operation. Gesture operation is not a conventional simple touch operation, but an operation that draws a trajectory with a finger or the like, designates a plurality of positions at the same time, or combines these to draw a trajectory for at least one of a plurality of positions. means.

カメラ部208は、図1に示したデジタルカメラにおける外部メモリ制御部20、記録媒体21、表示制御部22、表示部23、及び操作部14以外の構成を含む。カメラ部208によって生成された撮像画像データは、記憶部212に記録したり、入出力部213や無線通信部210を通じて出力したりすることができる。図8に示すスマートフォン200において、カメラ部208は表示入力部204と同じ面に搭載されているが、カメラ部208の搭載位置はこれに限らず、表示入力部204の背面に搭載されてもよい。   The camera unit 208 includes configurations other than the external memory control unit 20, the recording medium 21, the display control unit 22, the display unit 23, and the operation unit 14 in the digital camera shown in FIG. The captured image data generated by the camera unit 208 can be recorded in the storage unit 212 or output through the input / output unit 213 or the wireless communication unit 210. In the smartphone 200 illustrated in FIG. 8, the camera unit 208 is mounted on the same surface as the display input unit 204, but the mounting position of the camera unit 208 is not limited thereto, and may be mounted on the back surface of the display input unit 204. .

また、カメラ部208はスマートフォン200の各種機能に利用することができる。例えば、表示パネル202にカメラ部208で取得した画像を表示することや、操作パネル203の操作入力のひとつとして、カメラ部208の画像を利用することができる。また、GPS受信部214が位置を検出する際に、カメラ部208からの画像を参照して位置を検出することもできる。更には、カメラ部208からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン200のカメラ部208の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部208からの画像をアプリケーションソフトウェア内で利用することもできる。   The camera unit 208 can be used for various functions of the smartphone 200. For example, an image acquired by the camera unit 208 can be displayed on the display panel 202, or the image of the camera unit 208 can be used as one of operation inputs of the operation panel 203. Further, when the GPS receiving unit 214 detects a position, the position can be detected with reference to an image from the camera unit 208. Furthermore, referring to the image from the camera unit 208, the optical axis direction of the camera unit 208 of the smartphone 200 is determined without using the triaxial acceleration sensor or in combination with the triaxial acceleration sensor. It is also possible to determine the current usage environment. Of course, the image from the camera unit 208 can also be used in the application software.

その他、静止画又は動画の画像データにGPS受信部214により取得した位置情報、マイクロホン206により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部215により取得した姿勢情報等などを付加して記録部212に記録したり、入出力部213や無線通信部210を通じて出力したりすることもできる。   In addition, the position information acquired by the GPS receiver 214 to the image data of the still image or the moving image, the voice information acquired by the microphone 206 (the text information may be converted into voice information by the main control unit or the like), Posture information and the like acquired by the motion sensor unit 215 can be added and recorded in the recording unit 212, or output through the input / output unit 213 and the wireless communication unit 210.

以上のような構成のスマートフォン200においても、デジタル信号処理部17が上述した信号処理を行うことで、高品質の撮影が可能になる。   Even in the smartphone 200 configured as described above, the digital signal processing unit 17 performs the above-described signal processing, thereby enabling high-quality shooting.

以上説明してきたように、本明細書には以下の事項が開示されている。   As described above, the following items are disclosed in this specification.

開示された撮像装置は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子を有する撮像装置であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理部と、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成部と、を備えるものである。   The disclosed imaging device includes an imaging device that images a subject through an imaging optical system including a focus lens, and the imaging device includes a plurality of imaging pixels arranged in a two-dimensional array on a light receiving surface. And a plurality of types of phase difference detection pixels having different structures, the output signal value of the phase difference detection pixel included in the captured image signal output from the image sensor, and the phase difference detection pixel A gain correction processing unit that corrects the output signal value by multiplying a corresponding correction gain value, and an area where the phase difference detection pixel is arranged on the light receiving surface is the plurality of types of phase difference detection pixels and the imaging Dividing into a plurality of blocks including pixels, for each group of phase difference detection pixels of the same type belonging to each block, a correction gain value corresponding to the group is assigned to the image sensor. A correction gain value generator for generating by using the captured image signal obtained by imaging an object Ri are those comprising a.

開示された撮像装置は、上記補正ゲイン値生成部が、上記ブロックに属する同一種類の位相差検出用画素において出力信号値が予め決めた範囲にある画素の数が第一の閾値以上、かつ、上記ブロックに属する上記同一種類の位相差検出用画素の周囲にある上記撮像用画素において出力信号値が上記予め決めた範囲にある画素の数が第二の閾値以上となるブロックである第一のブロックについては、上記第一のブロックに属する上記グループ及び上記グループと同一色を検出する上記位相差検出用画素の周囲にある上記撮像用画素の出力信号値のうちの上記予め決めた範囲にあるものを利用して、上記グループに対応する補正ゲイン値を生成するものである。   In the disclosed imaging device, the correction gain value generation unit has a number of pixels whose output signal values are in a predetermined range in the same type of phase difference detection pixels belonging to the block, and the first threshold value or more, and A first block in which the number of pixels whose output signal values are in the predetermined range in the imaging pixels around the same kind of phase difference detection pixels belonging to the block is equal to or greater than a second threshold value. The block is in the predetermined range of the output signal values of the imaging pixels around the group belonging to the first block and the phase difference detection pixels that detect the same color as the group. A correction gain value corresponding to the group is generated using the above-described one.

開示された撮像装置は、更に、上記補正ゲイン値生成部が、上記ブロックに属する上記同一種類の位相差検出用画素において出力信号値が上記予め決めた範囲にある画素の数が上記第一の閾値未満、又は、上記ブロックに属する上記同一種類の位相差検出用画素の周囲にある上記撮像用画素において出力信号値が上記予め決めた範囲にある画素の数が上記第二の閾値未満となるブロックである第二のブロックについては、上記第二のブロックの周囲にある上記第一のブロックについて生成された上記グループに対応する補正ゲイン値を利用して、上記第二のブロックの上記グループに対応する補正ゲイン値を生成するものである。   In the disclosed imaging device, the correction gain value generation unit may further include the first pixel in which the output signal value is in the predetermined range in the same kind of phase difference detection pixels belonging to the block. The number of pixels whose output signal values are within the predetermined range in the imaging pixels around the same kind of phase difference detection pixels belonging to the block is less than the second threshold value or less than the second threshold value. For the second block, which is a block, the correction gain value corresponding to the group generated for the first block around the second block is used for the group of the second block. A corresponding correction gain value is generated.

開示された撮像装置は、上記補正ゲイン値生成部が、上記第二のブロックについては、上記第二のブロックに対して上記位相差検出用画素が位相差を検出する方向と直交する方向にある上記第一のブロックについて生成された上記グループに対応する補正ゲイン値を利用して、上記第二のブロックの上記グループに対応する補正ゲイン値を生成するものである。   In the disclosed imaging apparatus, the correction gain value generation unit is in a direction orthogonal to a direction in which the phase difference detection pixels detect a phase difference with respect to the second block, with respect to the second block. The correction gain value corresponding to the group of the second block is generated using the correction gain value corresponding to the group generated for the first block.

開示された撮像装置は、上記補正ゲイン値生成部が、上記第二のブロックについては、上記第二のブロックに対して上記位相差検出用画素が位相差を検出する方向と直交する方向にある全ての上記第一のブロックについて生成された上記グループに対応する補正ゲイン値の平均値を、上記第二のブロックの上記グループに対応する補正ゲイン値として生成するものである。   In the disclosed imaging apparatus, the correction gain value generation unit is in a direction orthogonal to a direction in which the phase difference detection pixels detect a phase difference with respect to the second block, with respect to the second block. An average value of correction gain values corresponding to the group generated for all the first blocks is generated as a correction gain value corresponding to the group of the second block.

開示された撮像装置は、上記補正ゲイン値生成部が、上記第二のブロックについては、上記第二のブロックに対して上記位相差検出用画素が位相差を検出する方向と直交する方向に最近接する2つの上記第一のブロックについて生成された上記グループに対応する補正ゲイン値の平均値を、上記第二のブロックの上記グループに対応する補正ゲイン値として生成するものである。   In the disclosed imaging device, the correction gain value generation unit recently sets the second block in a direction orthogonal to the direction in which the phase difference detection pixels detect the phase difference with respect to the second block. An average value of correction gain values corresponding to the group generated for the two first blocks in contact with each other is generated as a correction gain value corresponding to the group of the second block.

開示された撮像装置は、上記複数のブロックが、上記複数種類の位相差検出用画素が位相差を検出する方向と直交する方向に並ぶ複数個の上記ブロックからなるブロック列を、上記位相差を検出する方向に3個以上並べた配置となっており、上記補正ゲイン値生成部は、全てのブロックが上記第二のブロックとなるブロック列である特定ブロック列があった場合に、上記第一のブロックを含むブロック列であって上記特定ブロック列に対して上記位相差を検出する方向に最近接するブロック列における各第一のブロックについて生成された上記グループに対応する補正ゲイン値を用いて、上記特定ブロック列における各第二のブロックの上記グループに対応する補正ゲイン値を生成するものである。   In the disclosed imaging device, the plurality of blocks are obtained by converting the block sequence including the plurality of blocks arranged in a direction orthogonal to a direction in which the plurality of types of phase difference detection pixels detect a phase difference, Three or more are arranged in the direction to be detected, and the correction gain value generation unit, when there is a specific block sequence that is a block sequence in which all the blocks become the second block, Using the correction gain value corresponding to the group generated for each first block in the block sequence closest to the specific block sequence in the direction of detecting the phase difference. A correction gain value corresponding to the group of each second block in the specific block sequence is generated.

開示された撮像装置は、上記撮像光学系を着脱可能なマウント機構を備えるものである。   The disclosed imaging device includes a mount mechanism that can attach and detach the imaging optical system.

開示された信号処理方法は、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号を処理する信号処理方法であって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、を備えるものである。   The disclosed signal processing method is a signal processing method for processing a picked-up image signal output from an image pickup device that picks up an image of a subject through an image pickup optical system including a focus lens, and the image pickup device has a two-dimensional array on a light receiving surface. Output signals of the phase difference detection pixels included in the picked-up image signal output from the image pickup device, including a plurality of image pickup pixels and a plurality of types of phase difference detection pixels having different structures. A gain correction processing step for correcting the output signal value by multiplying the value by a correction gain value corresponding to the phase difference detection pixel, and the areas where the phase difference detection pixels are arranged on the light receiving surface. The phase difference detection pixels and the imaging pixels are divided into a plurality of blocks, and each group of the same kind of phase difference detection pixels belonging to each block is divided into the groups. A correction gain value corresponding to the one in which and a correction gain value generating step of generating by using the captured image signal obtained by imaging a subject by the image pickup device.

開示された信号処理プログラムは、フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号をコンピュータにより処理するための信号処理プログラムであって、上記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、上記撮像素子から出力される撮像画像信号に含まれる上記位相差検出用画素の出力信号値に、上記位相差検出用画素に対応する補正ゲイン値を乗じて上記出力信号値を補正するゲイン補正処理ステップと、上記受光面において上記位相差検出用画素が配置されるエリアを上記複数種類の位相差検出用画素及び上記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、上記グループに対応する補正ゲイン値を、上記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、をコンピュータに実行させるためのプログラムである。   The disclosed signal processing program is a signal processing program for processing a picked-up image signal output from an image pickup device that picks up an image of a subject through an image pickup optical system including a focus lens, and the image pickup device has a light receiving surface. Including a plurality of imaging pixels arranged in a two-dimensional array and a plurality of types of phase difference detection pixels having different structures, and for detecting the phase difference included in a captured image signal output from the imaging element. A gain correction processing step for correcting the output signal value by multiplying the output signal value of the pixel by a correction gain value corresponding to the phase difference detection pixel; and an area in which the phase difference detection pixel is arranged on the light receiving surface Is divided into a plurality of blocks including the plurality of types of phase difference detection pixels and the imaging pixels, and the same type of phase differences belonging to each block For each group of outgoing pixels, a computer executes a correction gain value generation step for generating a correction gain value corresponding to the group using a captured image signal obtained by imaging a subject with the image sensor. It is a program for.

本発明は、特にデジタルカメラ等に適用して利便性が高く、有効である。   The present invention is particularly convenient and effective when applied to a digital camera or the like.

3 固体撮像素子
16 メインメモリ
17 デジタル信号処理部
30 撮像用画素
31R,31L 位相差検出用画素
30 受光面
31 AFエリア
32 ブロック
3 Solid-State Image Sensor 16 Main Memory 17 Digital Signal Processing Unit 30 Imaging Pixels 31R, 31L Phase Difference Detection Pixel 30 Light Receiving Surface 31 AF Area 32 Block

Claims (10)

フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子を有する撮像装置であって、
前記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、
前記撮像素子から出力される撮像画像信号に含まれる前記位相差検出用画素の出力信号値に、前記位相差検出用画素に対応する補正ゲイン値を乗じて前記出力信号値を補正するゲイン補正処理部と、
前記受光面において前記位相差検出用画素が配置されるエリアを前記複数種類の位相差検出用画素及び前記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、前記グループに対応する補正ゲイン値を、前記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成部と、を備える撮像装置。
An imaging apparatus having an imaging element that images a subject through an imaging optical system including a focus lens,
The imaging element includes a plurality of imaging pixels arranged in a two-dimensional array on the light receiving surface and a plurality of types of phase difference detection pixels having different structures.
A gain correction process for correcting the output signal value by multiplying the output signal value of the phase difference detection pixel included in the captured image signal output from the image sensor by a correction gain value corresponding to the phase difference detection pixel. And
The area where the phase difference detection pixels are arranged on the light receiving surface is divided into a plurality of blocks including the plurality of types of phase difference detection pixels and the imaging pixels, and the same type of phase difference detection belonging to each block. An imaging apparatus comprising: a correction gain value generation unit that generates, for each group of pixels, a correction gain value corresponding to the group using a captured image signal obtained by imaging a subject with the imaging element.
請求項1記載の撮像装置であって、
前記補正ゲイン値生成部は、前記ブロックに属する同一種類の位相差検出用画素において出力信号値が予め決めた範囲にある画素の数が第一の閾値以上、かつ、前記ブロックに属する前記同一種類の位相差検出用画素の周囲にある前記撮像用画素において出力信号値が前記予め決めた範囲にある画素の数が第二の閾値以上となるブロックである第一のブロックについては、前記第一のブロックに属する前記グループ及び前記グループと同一色を検出する前記位相差検出用画素の周囲にある前記撮像用画素の出力信号値のうちの前記予め決めた範囲にあるものを利用して、前記グループに対応する補正ゲイン値を生成する撮像装置。
The imaging apparatus according to claim 1,
The correction gain value generation unit includes the same type of phase difference detection pixels belonging to the block whose output signal value is in a predetermined range and whose number is equal to or more than a first threshold value and belonging to the block. The first block is a block in which the number of pixels whose output signal values are within the predetermined range in the imaging pixels around the phase difference detection pixels is a second threshold value or more. The output signal values of the imaging pixels around the phase difference detection pixels that detect the same color as the group belonging to the block and the group are within the predetermined range, An imaging device that generates a correction gain value corresponding to a group.
請求項2記載の撮像装置であって、
更に、前記補正ゲイン値生成部は、前記ブロックに属する前記同一種類の位相差検出用画素において出力信号値が前記予め決めた範囲にある画素の数が前記第一の閾値未満、又は、前記ブロックに属する前記同一種類の位相差検出用画素の周囲にある前記撮像用画素において出力信号値が前記予め決めた範囲にある画素の数が前記第二の閾値未満となるブロックである第二のブロックについては、前記第二のブロックの周囲にある前記第一のブロックについて生成された前記グループに対応する補正ゲイン値を利用して、前記第二のブロックの前記グループに対応する補正ゲイン値を生成する撮像装置。
The imaging apparatus according to claim 2,
Further, the correction gain value generation unit may be configured such that, in the same type of phase difference detection pixels belonging to the block, the number of pixels whose output signal values are in the predetermined range is less than the first threshold, or the block A second block which is a block in which the number of pixels whose output signal values are in the predetermined range is less than the second threshold in the imaging pixels around the same kind of phase difference detection pixels belonging to For generating a correction gain value corresponding to the group of the second block using a correction gain value corresponding to the group generated for the first block around the second block An imaging device.
請求項3記載の撮像装置であって、
前記補正ゲイン値生成部は、前記第二のブロックについては、前記第二のブロックに対して前記位相差検出用画素が位相差を検出する方向と直交する方向にある前記第一のブロックについて生成された前記グループに対応する補正ゲイン値を利用して、前記第二のブロックの前記グループに対応する補正ゲイン値を生成する撮像装置。
The imaging apparatus according to claim 3,
The correction gain value generation unit generates the second block for the first block in a direction orthogonal to the direction in which the phase difference detection pixels detect a phase difference with respect to the second block. An imaging apparatus that generates a correction gain value corresponding to the group of the second block using a correction gain value corresponding to the group that has been set.
請求項4記載の撮像装置であって、
前記補正ゲイン値生成部は、前記第二のブロックについては、前記第二のブロックに対して前記位相差検出用画素が位相差を検出する方向と直交する方向にある全ての前記第一のブロックについて生成された前記グループに対応する補正ゲイン値の平均値を、前記第二のブロックの前記グループに対応する補正ゲイン値として生成する撮像装置。
The imaging apparatus according to claim 4,
The correction gain value generation unit, for the second block, includes all the first blocks in a direction orthogonal to a direction in which the phase difference detection pixels detect a phase difference with respect to the second block. An image pickup apparatus that generates an average value of correction gain values corresponding to the group generated for, as a correction gain value corresponding to the group of the second block.
請求項4記載の撮像装置であって、
前記補正ゲイン値生成部は、前記第二のブロックについては、前記第二のブロックに対して前記位相差検出用画素が位相差を検出する方向と直交する方向に最近接する2つの前記第一のブロックについて生成された前記グループに対応する補正ゲイン値の平均値を、前記第二のブロックの前記グループに対応する補正ゲイン値として生成する撮像装置。
The imaging apparatus according to claim 4,
The correction gain value generation unit, for the second block, includes the two first first closest to the second block in a direction orthogonal to a direction in which the phase difference detection pixel detects a phase difference. An imaging apparatus that generates an average value of correction gain values corresponding to the group generated for a block as a correction gain value corresponding to the group of the second block.
請求項3から6のいずれか1項記載の撮像装置であって、
前記複数のブロックは、前記複数種類の位相差検出用画素が位相差を検出する方向と直交する方向に並ぶ複数個の前記ブロックからなるブロック列を、前記位相差を検出する方向に3個以上並べた配置となっており、
前記補正ゲイン値生成部は、全てのブロックが前記第二のブロックとなるブロック列である特定ブロック列があった場合に、前記第一のブロックを含むブロック列であって前記特定ブロック列に対して前記位相差を検出する方向に最近接するブロック列における各第一のブロックについて生成された前記グループに対応する補正ゲイン値を用いて、前記特定ブロック列における各第二のブロックの前記グループに対応する補正ゲイン値を生成する撮像装置。
The imaging apparatus according to any one of claims 3 to 6,
The plurality of blocks include three or more block rows composed of the plurality of blocks arranged in a direction orthogonal to a direction in which the plurality of types of phase difference detection pixels detect a phase difference in the direction in which the phase difference is detected. It is arranged side by side,
When there is a specific block sequence that is a block sequence in which all the blocks become the second block, the correction gain value generation unit is a block sequence including the first block and the specific block sequence Corresponding to the group of each second block in the specific block sequence using the correction gain value corresponding to the group generated for each first block in the block sequence closest to the direction in which the phase difference is detected An imaging device that generates a correction gain value to be performed.
請求項1から7のいずれか1項記載の撮像装置であって、
前記撮像光学系を着脱可能なマウント機構を備える撮像装置。
The imaging apparatus according to any one of claims 1 to 7,
An imaging apparatus comprising a mount mechanism to which the imaging optical system can be attached and detached.
フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号を処理する信号処理方法であって、
前記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、
前記撮像素子から出力される撮像画像信号に含まれる前記位相差検出用画素の出力信号値に、前記位相差検出用画素に対応する補正ゲイン値を乗じて前記出力信号値を補正するゲイン補正処理ステップと、
前記受光面において前記位相差検出用画素が配置されるエリアを前記複数種類の位相差検出用画素及び前記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、前記グループに対応する補正ゲイン値を、前記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、を備える信号処理方法。
A signal processing method for processing a captured image signal output from an image sensor that images a subject through an imaging optical system including a focus lens,
The imaging element includes a plurality of imaging pixels arranged in a two-dimensional array on the light receiving surface and a plurality of types of phase difference detection pixels having different structures.
A gain correction process for correcting the output signal value by multiplying the output signal value of the phase difference detection pixel included in the captured image signal output from the image sensor by a correction gain value corresponding to the phase difference detection pixel. Steps,
The area where the phase difference detection pixels are arranged on the light receiving surface is divided into a plurality of blocks including the plurality of types of phase difference detection pixels and the imaging pixels, and the same type of phase difference detection belonging to each block. And a correction gain value generation step of generating a correction gain value corresponding to the group for each group of pixels using a captured image signal obtained by imaging a subject with the imaging element.
フォーカスレンズを含む撮像光学系を通して被写体を撮像する撮像素子から出力される撮像画像信号をコンピュータにより処理するための信号処理プログラムであって、
前記撮像素子は、受光面に二次元アレイ状に配置される複数の撮像用画素及び構造の異なる複数種類の位相差検出用画素を含むものであり、
前記撮像素子から出力される撮像画像信号に含まれる前記位相差検出用画素の出力信号値に、前記位相差検出用画素に対応する補正ゲイン値を乗じて前記出力信号値を補正するゲイン補正処理ステップと、
前記受光面において前記位相差検出用画素が配置されるエリアを前記複数種類の位相差検出用画素及び前記撮像用画素を含む複数個のブロックに分割し、各ブロックに属する同一種類の位相差検出用画素のグループ毎に、前記グループに対応する補正ゲイン値を、前記撮像素子により被写体を撮像して得られる撮像画像信号を利用して生成する補正ゲイン値生成ステップと、をコンピュータに実行させるための信号処理プログラム。
A signal processing program for processing a captured image signal output from an image sensor that images a subject through an imaging optical system including a focus lens by a computer,
The imaging element includes a plurality of imaging pixels arranged in a two-dimensional array on the light receiving surface and a plurality of types of phase difference detection pixels having different structures.
A gain correction process for correcting the output signal value by multiplying the output signal value of the phase difference detection pixel included in the captured image signal output from the image sensor by a correction gain value corresponding to the phase difference detection pixel. Steps,
The area where the phase difference detection pixels are arranged on the light receiving surface is divided into a plurality of blocks including the plurality of types of phase difference detection pixels and the imaging pixels, and the same type of phase difference detection belonging to each block. For causing a computer to execute a correction gain value generation step for generating a correction gain value corresponding to the group for each group of pixels using a captured image signal obtained by imaging a subject with the image sensor. Signal processing program.
JP2012274684A 2012-12-17 2012-12-17 Imaging apparatus, signal processing method, signal processing program Pending JP2016029750A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012274684A JP2016029750A (en) 2012-12-17 2012-12-17 Imaging apparatus, signal processing method, signal processing program
PCT/JP2013/080992 WO2014097792A1 (en) 2012-12-17 2013-11-18 Imaging device, signal processing method, and signal processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012274684A JP2016029750A (en) 2012-12-17 2012-12-17 Imaging apparatus, signal processing method, signal processing program

Publications (1)

Publication Number Publication Date
JP2016029750A true JP2016029750A (en) 2016-03-03

Family

ID=50978136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012274684A Pending JP2016029750A (en) 2012-12-17 2012-12-17 Imaging apparatus, signal processing method, signal processing program

Country Status (2)

Country Link
JP (1) JP2016029750A (en)
WO (1) WO2014097792A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017170724A1 (en) * 2016-03-31 2017-10-05 株式会社ニコン Image pickup device, lens adjusting device, and electronic apparatus

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10554877B2 (en) 2016-07-29 2020-02-04 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image synthesis method and apparatus for mobile terminal, and mobile terminal
CN106101556B (en) * 2016-07-29 2017-10-20 广东欧珀移动通信有限公司 Image combining method, device and the mobile terminal of mobile terminal

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002131623A (en) * 2000-10-24 2002-05-09 Canon Inc Imaging apparatus and system
JP5371331B2 (en) * 2008-09-01 2013-12-18 キヤノン株式会社 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM
JP5645474B2 (en) * 2010-05-19 2014-12-24 富士フイルム株式会社 Imaging apparatus and method for correcting captured image signal
EP2690874A4 (en) * 2011-03-24 2014-09-03 Fujifilm Corp Color image sensor, imaging device, and control program for imaging device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017170724A1 (en) * 2016-03-31 2017-10-05 株式会社ニコン Image pickup device, lens adjusting device, and electronic apparatus

Also Published As

Publication number Publication date
WO2014097792A1 (en) 2014-06-26

Similar Documents

Publication Publication Date Title
JP5657182B2 (en) Imaging apparatus and signal correction method
JP5775977B2 (en) Image processing apparatus, imaging apparatus, image processing method, and image processing program
JP5690974B2 (en) Imaging apparatus and focus control method
JP5542249B2 (en) Image pickup device, image pickup apparatus using the same, and image pickup method
JP5799178B2 (en) Imaging apparatus and focus control method
JP5982601B2 (en) Imaging apparatus and focus control method
US9743031B2 (en) Imaging device and imaging method
JP5802846B2 (en) Imaging device
WO2014155806A1 (en) Imaging device, and focus control method
JP5677625B2 (en) Signal processing apparatus, imaging apparatus, and signal correction method
JP5982600B2 (en) Imaging apparatus and focus control method
JPWO2015045704A1 (en) Imaging apparatus and focus control method
JP5990665B2 (en) Imaging apparatus and focus control method
JP5768193B2 (en) Image processing apparatus, imaging apparatus, image processing method, and image processing program
US9344646B2 (en) Imaging device and imaging method
WO2014097792A1 (en) Imaging device, signal processing method, and signal processing program
JP5798696B2 (en) Image processing apparatus, method, recording medium, program, and imaging apparatus
JP5680803B2 (en) Image processing apparatus and method, and imaging apparatus
WO2013145887A1 (en) Imaging device and imaging method