JP5616442B2 - 撮像装置及び画像処理方法 - Google Patents

撮像装置及び画像処理方法 Download PDF

Info

Publication number
JP5616442B2
JP5616442B2 JP2012519321A JP2012519321A JP5616442B2 JP 5616442 B2 JP5616442 B2 JP 5616442B2 JP 2012519321 A JP2012519321 A JP 2012519321A JP 2012519321 A JP2012519321 A JP 2012519321A JP 5616442 B2 JP5616442 B2 JP 5616442B2
Authority
JP
Japan
Prior art keywords
pixel
correction
focus detection
pixels
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012519321A
Other languages
English (en)
Other versions
JPWO2011155297A1 (ja
Inventor
宮下 丈司
丈司 宮下
智行 河合
智行 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012519321A priority Critical patent/JP5616442B2/ja
Publication of JPWO2011155297A1 publication Critical patent/JPWO2011155297A1/ja
Application granted granted Critical
Publication of JP5616442B2 publication Critical patent/JP5616442B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout

Description

本発明は、焦点検出用画素を有するイメージセンサを搭載した撮像装置に関するものであり、さらに詳しくは、焦点検出用画素のデータを補正して画像形成に用いる撮像装置及び画像処理方法に関する。
自動焦点調節機能を備えたデジタルカメラ等の撮像装置が普及している。自動焦点調節(以下、AFという)には、被写体に赤外線や超音波等を照射し、反射光の結像位置や反射光が戻るまでの時間等に基づいて測距するアクティブ方式と、撮像レンズ等を通して得られる撮像画像を用いて焦点距離を検出するパッシブ方式が知られている。パッシブ方式のAF機能は、画面の全部又は指定範囲内の画像のコントラストが最大になるように焦点調節を行うコントラスト検出方式や、視差(位相差)がある位置に配置された2つのイメージセンサから出力される画像データの相関関係に基づいて焦点調節を行う位相差検出方式が知られている。
特に近年では、1つのイメージセンサの画素配列の中に、左右(あるいは上下)に非対称な構造を持つ画素を焦点検出用画素(以下、位相差画素という)として設けておくことで、AF時に1つのイメージセンサで位相差検出方式を行う撮像装置が知られている。しかし、位相差画素は、前述のように非対称な構造を持った画素であるため、通常の画素と比較して感度が低い等、その特性が異なっているために、位相差画素の部分は、撮影画像の中で暗くなったり、色つきが生じたりして、ノイズとなる。このため、位相差画素を有するイメージセンサを用いた撮像装置では、撮影画像における位相差画素のデータを補正することが知られている。
位相差画素のデータを補正する方法としては、平均値補正と、ゲイン補正の2種類の方法が知られている。平均値補正は、位相差画素の周囲に隣接する通常画素の画素値(輝度)を平均し、これを位相差画素の画素値とする補正方法である(特許文献1)。また、ゲイン補正は、位相差画素の画素値に、所定のゲインを乗じて位相差画素の画素値を引き上げる補正方法である(特許文献1,2)。
特開2009−303194号公報 特開2000−305010号公報
位相差画素の補正方法は、前述のように平均値補正とゲイン補正の2種類が知られているが、撮影画像の内容によっては、良好な補正を行える画像と、補正によってかえってノイズが目立ってしまう画像がある。平均値補正は、位相差画素の周囲に高周波のエッジ成分がない平坦な画像の場合に好適な補正が行える。一方、位相差画素の周囲に高周波のエッジ成分がある画像に平均値補正を施すと、折り返しによる偽色が生じるという欠点がある。また、ゲイン補正は、位相差画素の周囲に高周波のエッジ成分があっても影響を受けずに好適な補正が行える。一方、位相差画素の周囲に高周波のエッジ成分がない平坦な画像の場合には、画素値をゲインを乗じて引き上げるため、かえってノイズが目立つという欠点がある。特に、フレアやゴースト等、通常の入射角度以外の光によって生じるノイズがあるときには、こうしたノイズ成分によって通常画素と位相差画素の感度比がズレてしまうため、ゲイン補正では正確に位相差画素の画素値を補正できないことがある。
こうしたことから、位相差画素の画素値の補正方法として、平均値補正とゲイン補正の一方だけを採用すると、撮影画像の内容によっては位相差画素の画素値を補正したことでかえって画質が劣化し、いわゆる補正痕を発生させることがある。このため、撮影画像の内容に応じてこれらの補正方法を使い分けたり、あるいは補正痕を低減する工夫が求められる。
撮影画像の内容に応じて補正方法を使い分ける例としては、特許文献2に記載されているように、高周波成分の有無を検出し、その結果に応じて前述の2つの補正方法を使い分ける例が知られている。また、位相差画素の画素値を補正する前にガンマ補正処理等の各種画像処理を行うと、位相差画素と通常画素の感度差を反映して偽色等が生じて画質が劣化してしまうため、通常、位相差画素の画素値の補正はこうした各種画像処理を施す前に行われる。しがたって、各種画像処理が施されることによって顕在化するような高周波成分を検出することは難しい。このため、前述のように、高周波成分の有無を検出して、その結果だけにしたがって、平均値補正とゲイン補正のいずれか一方を選択する方法では、良好な補正が行えないことがある。
本発明の目的は、補正痕の発生を低減しながら、位相差画素の画素値を適切に補正する撮像装置及び画像処理方法を提供することにある。
上記目的を達成するために、本発明の撮像装置は、イメージセンサと、合焦評価部と、第1補正値算出部と、焦点検出用画素補正部とを備えている。イメージセンサは、撮像面内に通常画素と焦点検出用画素とが所定パターンで配列され、これらの画素から一画面分の撮像信号を出力する。合焦評価部は、前記一画面分の撮像信号から前記焦点検出用画素の輝度を参照して合焦状態の評価を行う。第1補正値算出部は、前記焦点検出用画素の輝度に所定のゲインを乗じた第1補正値を算出する。焦点検出用画素補正部は、前記第1補正値と、前記焦点検出用画素の周囲に配置された所定数の前記通常画素の輝度を比較し、前記第1補正値が前記所定数の通常画素の輝度のうちの最大値以下かつ最小値以上の通常範囲内である場合には、前記焦点検出用画素の輝度を前記第1補正値に置き換え、前記第1補正値が前記通常範囲外である場合には、前記所定数の通常画素の輝度を平均して第2補正値を算出し、前記焦点検出用画素の輝度を前記第2補正値に置き換える。この置き換えにより、前記焦点検出用画素の輝度が補正される。
前記欠陥画素の輝度を補正する欠陥画素補正部を備えることが好ましい。この欠陥画素補正部は、前記通常画素のなかで欠陥のある欠陥画素の位置が予め記憶されるとともに、前記欠陥画素の周囲に配置された欠陥のない複数の前記通常画素の輝度を平均して第3補正値を算出し、前記欠陥画素の輝度を前記第3補正値に置き換える。
また、前記欠陥画素補正部は、前記欠陥画素が複数隣接し合って欠陥画素群を形成している場合には、前記欠陥画素群の周囲に配置された前記通常画素の輝度を平均して前記第3補正値を算出することが好ましい。
また、前記焦点検出用画素に隣接して前記欠陥画素があるか否かを判別する判別部を備えることが好ましい。この判別部が、前記焦点検出用画素に隣接して前記欠陥画素があることを判別した場合に、前記焦点検出用画素補正部は、前記焦点検出用画素の輝度を前記第1補正値に置き換えることにより、前記焦点検出用画素の輝度を補正する。
また、前記焦点検出用画素に隣接して前記欠陥画素があるか否かを判別する判別部を備えることが好ましい。この判別部が、前記焦点検出用画素に隣接して前記欠陥画素があると判別した場合、当該焦点検出用画素の輝度を前記欠陥画素補正部によって前記第3補正値で置き換える。
また、前記判別手段は、前記焦点検出用画素に隣接して前記欠陥画素がある場合に、当該焦点検出用画素の位置を前記欠陥画素として登録するのが望ましい。前記欠陥画素補正部は、前記欠陥画素の輝度を補正するときに、登録された前記焦点検出用画素を前記欠陥画素とみなし、前記欠陥画素の輝度及び前記登録された焦点検出用画素の輝度を前記第3補正値で置き換える。
また、前記イメージセンサは、各々独立した条件で動作をする第1画素群と第2画素群を備えるのが望ましい。前記焦点検出用画素補正部は、前記第1画素群と前記第2画素群とが互いに異なる露光時間で撮影を行う場合に、前記所定数の通常画素として同じ群内の前記通常画素を用いる。そして、前記第1画素群と前記第2画素群とが同じ露光時間で撮影を行う場合には、前記所定数の通常画素として、前記第1画素群及び前記第2画素群に含まれる前記通常画素を用いる。
本発明の画像処理方法は、合焦評価ステップと第1補正値算出ステップと焦点検出用画素補正ステップを備える。合焦評価ステップは、撮像面内に通常画素と焦点検出用画素とが所定パターンで配列されたイメージセンサから出力される一画面分の撮像信号から前記焦点検出用画素の輝度を参照して合焦状態の評価を行う。第1補正値算出ステップは、前記焦点検出用画素の輝度に所定のゲインを乗じた第1補正値を算出する。焦点検出用画素補正ステップは、前記第1補正値と、前記焦点検出用画素の周囲に配置された所定数の前記通常画素の輝度を比較し、前記第1補正値が前記所定数の通常画素の輝度のうちの最大値以下かつ最小値以上の通常範囲内である場合には、前記焦点検出用画素の輝度を前記第1補正値に置き換え、前記第1補正値が前記通常範囲外である場合には、前記所定数の通常画素の輝度を平均して第2補正値を算出し、前記焦点検出用画素の輝度を前記第2補正値に置き換えることにより、前記焦点検出用画素の輝度を補正する。
本発明によれば、補正痕の発生を低減しながら、位相差画素の画素値を適切に補正することができる。特に、フレアやゴースト等、通常の入射角度以外の光によって生じるノイズがある場合にも位相差画素の画素値を好適に補正することができる。
デジタルカメラの正面斜視図である。 デジタルカメラの背面図である。 デジタルカメラの電気的構成を概略的に示すブロック図である。 CCDの画素配列と、画素のうち位相差画素の補正に用いられるものを示す説明図である。 位相差画素の画素値を補正する様態を示すフローチャートである。 欠陥画素に隣接して欠陥画素がある場合に、欠陥画素の画素値を平均値補正によって補正する様態を示す説明図である。 位相差画素の周辺に欠陥画素がある場合に位相差画素の画素値を補正する様態を示すフローチャートである。 位相差画素の周辺に欠陥画素がある場合に特に好適に位相差画素の画素値を補正する様態を示すフローチャートである。 露光時間の異なる2種類の撮影をほぼ同時に行うことができるCCDの画素配列を模式的に示す説明図である。 露光時間が異なる2種類の撮影をほぼ同時に行うことがCCDを用いて、全ての画素を同じ露光時間で用いる場合の様態を示す説明図である。
図1に示すように、デジタルカメラ(撮像装置)11は、ほぼ直方体状に形成されたカメラ本体12の前面に、撮影レンズ13を保持するレンズ鏡筒14と、撮影実行の際に被写体を照明するフラッシュ発光部16とが設けられている。また、カメラ本体12の上面には、撮影実行を指示するレリーズボタン17、電源のON/OFFを切り替える電源ボタン18、ズーム操作を行うためのズームレバー19等が設けられている。レリーズボタン17は、2段階押しのスイッチとなっており、レリーズボタン17を軽く押圧(半押し)すると、AF等の各種撮影準備処理が実行される。レリーズボタン17を半押し状態からさらに押圧(全押し)すると、デジタルカメラ11に撮影実行が指示され、撮影準備処理が施された1画面分の撮像信号が画像データに変換される。
図2に示すように、カメラ本体12の背面には、液晶ディスプレイ21、モード選択ボタン22、メニューボタン23が設けられている。液晶ディスプレイ21には、撮影した画像や、撮影の待機時にスルー表示されるいわゆるスルー画像、各種メニュー画面などが表示される。モード選択ボタン22は、デジタルカメラ11の動作モードを切り替える際に操作される。デジタルカメラ11は、静止画像を取得する静止画撮影モード、動画像を取得する動画撮影モード、取得した各画像を液晶ディスプレイ21に再生表示する再生モード等の複数の動作モードが設けられており、モード選択ボタン22の操作によってこれらの各動作モードが切り替わる。メニューボタン23は、液晶ディスプレイ21に各種のメニュー画面を表示させる際に操作される。
図3に示すように、レンズ鏡筒14には、モータ31が接続されている。モータ31はギアなどの伝達機構を介してレンズ鏡筒14に駆動力を伝え、レンズ鏡筒14の繰り出し/繰り込みを行う。また、図示を簡略化してあるが、撮影レンズ13は複数枚のレンズからなるレンズ群であり、レンズ鏡筒14の繰り出し/繰り込みに応じて各レンズの間隔が変化する。さらに、撮影レンズ13には撮影倍率を変化させる光学系の他に、開口面積を変化させることによって撮影光量を調節する絞り機構や、撮影光軸L方向に移動することによって撮影レンズ13の焦点を調節するフォーカシングレンズが設けられている。
撮影レンズ13の背後には、撮影レンズ13によって結像された被写体像を撮像するイメージセンサ、例えばCCD32が配置されている。CCD32にはタイミングジェネレータ(TG)33が接続されており、CCD32は、このTG33から入力されるタイミング信号により電子シャッタのシャッタ速度やフレームレートが定められる。シャッタ速度とフレームレートは、それぞれに複数の設定が予め用意されており、これらの設定は、メニューボタン23の押下することにより液晶ディスプレイ21に表示され、モード選択ボタン22の操作等により適宜変更される。
また、CCD32は、被写体からの光を光電変換する画素32a(図4参照)が平面に配列されたいわゆるエリアイメージセンサである。但し、CCD32は、撮像面内の全ての画素が、撮影光軸Lに対してほぼ対称な構造に形成された通常の画素(以下、通常画素という)からなる通常のエリアイメージセンサとは異なり、被写体からの光の入射角度によってはこれを遮光するように、撮影光軸Lに対して非対称な構造に形成された画素(以下、位相差画素という)GAF(図4参照)が撮像面内の複数の所定箇所に設けられている。位相差画素GAFは、撮像レンズ32の光軸に対して上下または左右のいずれかの方向に非対称な構造に形成されていると同時に、上(左)側が遮光された位相差画素GAFと、下(右)側が遮光された位相差画素GAFが1対になるように、複数配置されている。
前記位相差画素GAFの画素値は、後述するようにAF検出回路46において合焦評価値の算出に用いられる。同時に、位相差画素GAFは非対称構造に形成されているために、通常画素よりも画素値が小さく暗い等の固有の特性を示すが、最終的に液晶ディスプレイに表示されたり、メモリカード62に記録される撮影画像では、位相差画素GAFの画素値(輝度値)は、後述する位相差画素補正部47によってその値が補正される。また、各位相差画素GAFの位置座標や通常画素との感度比やこれに基づいて定められるゲイン補正で用いるゲイン値(後述)は、予め求めておき、これらのデータは後述するEEPROM60に記憶している。
CCD32は、相関二重サンプリング回路(CDS)34に接続され、CDS34によってノイズを除去しながらCCD32の各画素32aの蓄積電荷量に正確に比例したアナログの撮像信号を出力する。また、CCD32からの撮像信号は、一画面分を単位として出力される。この撮像信号は、増幅器(AMP)36で増幅された後に、A/D変換器(A/D)37でデジタルの画像データに変換され、SDRAM41に一時的に記憶される。これらのCDS34、AMP36、A/D37の動作は、画像入力コントローラ42によって制御される。画像入力コントローラ42は、システムバス43を介してCPU44に接続されており、CPU44からの制御命令に応じて、CDS34、AMP36、A/D37の動作を制御する。
AF検出回路46は、A/D37でデジタル化された画像データを基に撮影レンズ13の合焦評価値を算出し、CPU44に入力する。また、合焦評価値は、位相差画素GAFの画素値を用いることにより、位相差検出方式によって算出される。CPU44は、こうしてAF検出回路46から入力される合焦評価値に基づいて、撮影レンズ13を合焦位置に移動させる。
本実施形態では、画素32aには、撮像用の通常画素と、撮像及びAF用の位相差画素GAFとがある。また、通常画素には、正常動作する正常画素と、構造的な欠陥によって設計通りに作動しない欠陥画素GNG(図4参照)がある。これらのうち位相差画素GAFと、欠陥画素GNGは、画素補正(輝度補正)が必要な特殊画素に該当する。
特殊画素補正部48は、これらの特殊画素に対しては、画素値をSDRAM41から読み出すと同時に、画素値の補正を行う。このため、特殊画素補正部48は、各画素の画素値を一つずつ読み読み込むと同時に、その位置座標をEEPROM60に記憶された位相差画素GAFや欠陥画素GNGの位置座標のデータ(以下、座標データという)と照合し、画素値を読み込んだ画素が、位相差画素GAF,欠陥画素GNG,正常画素のいずれの種類の画素であるか識別する。
また、特殊画素補正部48は、位相差画素GAFや欠陥画素GNGの補正(輝度補正)に、ゲイン補正または平均値補正のうち、少なくともいずれか一方の補正方法を用いる。ゲイン補正は、読み込んだ画素値に所定のゲインを乗じた値(第1補正値)を算出し、この値を、新たな画素値として更新する補正方法である。また、平均値補正は、補正対象の画素と同色で、補正対象の画素に最も近接して配置された複数の通常画素の画素値の平均値(第2補正値)を算出し、その値を新たな画素値として更新する補正方法である。
さらに、特殊画素補正部48は、平均値補正によって欠陥画素の画素値を補正する。すなわち、特殊画素補正部48は、欠陥画素に隣接して配置された複数の正常画素の画素値の平均値(第3補正値)を算出し、これを欠陥画素の新たな画素値とする。また、このとき、特殊画素補正部48は、画素値を読み込んだ欠陥画素に隣接して、他の欠陥画素(以下、隣接欠陥画素という)がある場合には、この隣接欠陥画素の画素値は参照せずに、隣接欠陥画素についで補正対象の欠陥画素に近接して配置された正常画素の画素値を参照して、これらの画素の画素値の平均値(第3補正値)を算出することにより、平均値補正を行う。したがって、複数の欠陥画素が隣接している場合には、特殊画素補正部48は、これらの欠陥画素をまとめて一つの大きな欠陥画素群とみなし、この欠陥画素群の周囲に配置された正常画素の画素値を用いた平均値補正を行う。なお、こうして特殊画素補正部48によって位相差画素GAFや欠陥画素GNGの画素値が補正された画像データは、画像信号処理回路53に入力される。
画像信号処理回路53には、位相差画素補正部47によって位相差画素GAFの画素値が補正された画像データが入力される。画像信号処理回路53は、この画像データに、階調変換処理、ホワイトバランス補正、ガンマ補正処理等の各種画像処理を施してから、再度SDRAM41に書き込む。
YC変換処理回路56は、画像信号処理回路53によって各種画像処理が施された画像データをSDRAM41から読み出し、輝度信号Yと色差信号Cr,Cbとに変換する。得られたYCデータは、再びSDRAM41に記憶される。
AE/AWB検出回路57は、輝度信号Yと色差信号Cr,Cbとの積算値を基に、被写体の輝度を表す測光値を算出し、この算出結果をCPU44に送信する。CPU44は、AE/AWB検出回路57から送信される測光値に基づいて、露出量及びホワイトバランスの適否を判断するとともに、これらが最適な値になるように撮影レンズ13の絞り機構やCCD32等の動作を制御する。
液晶ドライバ58は、YCデータをSDRAM41から読み出し、アナログのコンポジット信号に変換して液晶ディスプレイ21に表示する。また、CCD32から順次出力される撮像信号に基づいて生成された画像データを、順次液晶ディスプレイ21に出力することにより、いわゆるスルー画像が液晶ディスプレイ21に表示される。
圧縮伸張処理回路59は、YCデータを所定形式のファイルフォーマットに変換することにより、静止画像ファイルや動画像ファイルを生成する。得られた静止画像ファイルや動画像ファイルがいわゆる撮影画像である。
CPU44は、レリーズボタン17、ズームレバー19、モード選択ボタン22、メニューボタン23等の各種操作部材が接続されている。これらの操作部材の操作が検出されると、その検出信号はCPU44に入力される。また、CPU44は、システムバス43を介してデジタルカメラ11の各部とドライバ等を介して接続されており、前述の操作部材やデジタルカメラ11の各部から入力される。そして、CPU44は、これらの各種信号に基づいて、デジタルカメラ11各部に、制御信号を送信することにより、デジタルカメラ11を統括的に制御する。
メディアコントローラ61は、メディアスロット(図示しない)に着脱自在に装着されたメモリカード62にアクセスし、生成された撮影画像の読み書きを行う。フラッシュ制御部63は、CPU44から送信されるフラッシュ発光信号に応じてフラッシュ発光部16を発光させる。
また、デジタルカメラ11には、EEPROM60が備えられている。このEEPROM60には、CPU44に読み出され、デジタルカメラ11を動作させるためのプログラムや、位相差画素GAFの座標データ、欠陥画素GNGの座標データ、ゲイン補正で用いられるゲイン等が予め記憶されている。
まず、図4に示すように、CCD32の画素32aはいわゆるハニカム配列に設けられており、各画素は正方格子を45度回転させた格子点に配置される。また、各画素32a上に付したR,G,Bはカラーフィルタの色を表しており、その配色は、赤色(R):緑色(G):青色(B)=1:2:1の割合で設けられている。R画素とB画素が交互に配置された行(X方向)と、G画素だけが配列された行が交互に、かつ、各行1/2画素分だけ画素32aの配置をずらしながら配置されている。また、CCD32は、X方向がデジタルカメラ11の横方向(長手方向)に対応し、Y方向がデジタルカメラ11の縦方向(短手方向)に対応するように配置される。
画素32aには、X方向(又はY方向)に非対称な構造に形成された位相差画素が含まれている。図4に示す実施形態では、緑色のカラーフィルタGが配置されたG画素のうちの一部が位相差画素GAFに形成されている。また、撮像用の通常画素には、正常に動作しない欠陥画素も含まれていることがある。図4では、G画素の1つを欠陥画素GNGとしている。な、位相差画素GAF、欠陥画素GNG以外の画素は、正常動作する正常画素である。
特殊画素補正部48が位相差画素GAFの画素値を補正するときに参照する画素は、位相差画素GAFに最も近接して配置された同色の4つのG画素Ga〜Gdの画素値が参照される。同様に、特殊画素補正部48が欠陥画素GNGの画素値を平均値補正する場合には、欠陥画素GNGを中心として、位相差画素GAFの補正と同様の位置関係にあるG画素Gd,Gc,Ge,Gfの画素値が参照される。以下では、補正対象の位相差画素GAFや欠陥画素GNGを中心として、これに最も近接して配置された同色の通常画素を周辺画素という。したがって、図4では、位相差画素GAFの周辺画素はG画素Ga〜Gdであり、G画素Gd,Gc,Ge,Gfは欠陥画素GNGの周辺画素である。
次にデジタルカメラ11の作用について説明する。電源ボタン18を押下してデジタルカメラ11の各部を起動させた後、モード選択ボタン22を押下して静止画撮影モードまたは動画撮影モードを選択し、デジタルカメラ11を撮影待機状態にする。こうしてデジタルカメラ11が撮影待機状態になると、CPU44によってTG33が制御され、TG33から出力されるタイミング信号によってCCD32が駆動される。このとき、CPU44はメニュー画面を介してユーザが設定したシャッタ速度及びフレームレートに応じてCCD32を駆動させる。また、CCD32は、TG33からのタイミング信号に応答して、撮影レンズ13によって撮像面に結像された被写体像に応じた撮像信号を出力し、これをデジタル化した画像データがSDRAM41に一時的に記憶される。
AF検出回路46は、CPU44からの指示に基づいて、こうしてデジタル化された画像データをSDRAM41から読み出し、これに含まれる位相差画素GAFの画素値に基づいて合焦評価値を算出して、CPU44に入力する(合焦評価ステップ)。CPU44は、入力された合焦評価値に応じて、モータ31を駆動し、撮影レンズ13を合焦位置に移動させる。
こうしてAF動作が行われると同時に、特殊画素補正部48は、AF検出回路46で読み出されるものと同じデジタルの画像データをSDRAM41から読み出して、位相差画素GAF及び欠陥画素GNGの画素値を補正し、画像信号処理回路53に入力する。画像信号処理回路53では、全画素の画像データ、すなわち位相差画素GAF及び欠陥画素GNGの補正済み画像データ及び正常画素の画像データに対してガンマ補正処理等の各種画像処理が施される。画像信号処理回路53で各種画像処理が施された画像データは、YC変換処理回路56でYC変換処理を施された後、液晶ディスプレイ21に表示されたり、圧縮伸張処理回路59によってこの画像データに基づいて撮影画像が生成され、メモリカード62に記憶される。
特殊画素補正部48による位相差画素GAF及び欠陥画素GNGの画素値の補正(輝度補正)は、図5に示す手順に沿って行われる。まず、特殊画素補正部48は、SDRAM41から画像データを読み出すときに、画像データの各画素の画素値を一つずつ読み出す。同時に、特殊画素補正部48は、画素値を読み出した画素の位置座標と、位相差画素GAFの座標データと照合することにより、画素値を読み出した画素が位相差画素GAFであるか否かを判別する(ステップS11)。
画素値を読み出した画素が位相差画素GAFであった場合、特殊画素補正部48は、この位相差画素GAFの画素値をゲイン補正した場合の画素値を算出する(ステップS12,第1補正値算出ステップ)。すなわち、特殊画素補正部48は位相差画素GAFの画素値を読み込むと、この位相差画素GAFに対応して予め定められたゲインαをEEPROM60から読み出し、画像データとして読み込んだ元の画素値CVに乗じ、位相差画素GAFの画素値CVをゲイン補正した場合の画素値α・CVを算出する。
次いで、特殊画素補正部48は、位相差画素GAFに対する周辺画素Ga〜Gd(図4参照)の画素値を取得し、ゲイン補正後の位相差画素GAFの画素値α・CVを周辺画素Ga〜Gd(図4参照)の各画素値とそれぞれ比較する(ステップS13,焦点検出用画素補正ステップ)。このとき、ゲイン補正後の位相差画素GAFの画素値が、周辺画素Ga〜Gdの画素値のうち最大値以下の値であり、かつ、最小値以上の値であるとき(通常範囲)には、特殊画素補正部48は、読み込んだ位相差画素GAFの画素値CVをゲイン補正した場合の画素値α・CVに置き換えることにより、この位相差画素GAFの画素値をゲイン補正する。例えば、周辺画素Ga〜Gdの画素値をそれぞれCV,CV,CV,CVとし、これらの値のうちの最大値がCV、最小値がCVであった場合、CV≦α・CV≦CVを満たす場合には、位相差画素GAFの画素値をもとの画素値CVをゲイン補正後の画素値α・CVで置き換える。
一方、ゲイン補正後の画素値α・CVが周辺画素Ga〜Gdの画素値のどれよりも大きい場合(α・CV>CV,CV,CV,CV)、またはゲイン補正後の画素値α・CVが周辺画素の画素値のどれよりも小さい場合(α・CV<CV,CV,CV,CV)には、特殊画素補正部48は、位相差画素GAFの画素値を平均値補正によって補正する(ステップS14,焦点検出用画素補正ステップ)。この2つの場合には、特殊画素補正部48は、周辺画素Ga〜Gdの画素値CV,CV,CV,CVの平均値CVAVEを算出し、これを位相差画素GAFの画素値を元の画素値CVから周辺画素の画素値の平均CVAVEに置き換える。
こうして、特殊画素補正部48は、位相差画素GAFの画素値を読み込むと、ゲイン補正または平均値補正のいずれかによって読み込んだ位相差画素GAFの画素値を補正する。
また、ステップS11で、画素値を読み出した画素の位置座標が位相差画素GAFの座標データに登録されておらず、画素値を読み出した画素が位相差画素GAFでなかった場合には、特殊画素補正部48は、さらに、画素値を読み出した画素の位置座標を欠陥画素GNGの座標データと照合し、画素値を読み出した画素が欠陥画素GNGであるか否かを判別する(ステップS15)。このとき、画素値を読み出した画素の位置座標が欠陥画素GNGの座標データに登録されておらず、画素値を読み出した画素が、位相差画素GAFでもなく、欠陥画素GNGでもない場合には、特殊画素補正部48は、画素値を読み出した画素が正常画素であると判断する。この正常画素に対しては、ゲイン補正及び平均値補正のいずれも行わずに、読み出した画素値をそのままその画素の画素値とする。
一方、画素値を読み出した画素の位置座標が欠陥画素GNGの座標データに登録されており、画素値を読み出した画素が欠陥画素GNGであった場合、特殊画素補正部48は、この欠陥画素GNGの画素値を平均値補正によって補正する(ステップS16)。例えば、欠陥画素GNGの周辺画素Gd,Gc,Ge,Gf(図4参照)が全て正常画素である場合には、これらの周辺画素Gd,Gc,Ge,Gfの画素値を平均し、これを欠陥画素GNGの画素値を、読み出した元の画素値から、算出した周辺画素Gd,Gc,Ge,Gfの画素値の平均値に置き換える。また、欠陥画素GNGの周辺画素Gd,Gc,Ge,Gfに欠陥画素が含まれている場合には、欠陥画素GNGとその隣接欠陥画素を一つの欠陥画素群とみなし、この欠陥画素群の周囲の周辺画素の画素値を平均し、その値を欠陥画素GNGの画素値とする。
例えば、図6に示すように、欠陥画素GNGの画素値を補正する場合に、右隣に位置する周辺画素Gdが欠陥画素(隣接欠陥画素)であるとすると、特殊画素補正部48は、欠陥画素GNGと周辺画素Gdをひとまとまりの欠陥画素群68とみなす。そして、この欠陥画素群68に最も近いG画素Gc,Ge,Gf,Gg,Gh,Giを周辺画素として、これらの各画素の画素値の平均値を算出し、欠陥画素GNGの画素値を、読み出した元の画素値からここで算出した値に置き換える。
こうして画像データの画素のうち、全ての位相差画素GAFに対しては、その画素値にゲイン補正または平均値補正が施され、また、全ての欠陥画素GNGの画素値に平均値補正が施されるる。特殊画素補正部48は、全ての特殊画素GAF,GNGの画素値の補正が完了した画像データを画像信号処理回路53に入力する。画像信号処理回路53は、特殊画素補正部48から入力される画像データ及び正常画素の画像データに各種画像処理を施し、次にYC変換処理回路56がYC変換処理を施す。その後、圧縮伸張処理回路59によって静止画像(動画像)ファイルに変換され、記録画像としてメモリカード62に記憶されたり、スルー画像として液晶ディスプレイ21に表示される。
以上のように、デジタルカメラ11は、1つのイメージセンサを用いて位相差検出方式でAFを行うために、焦点検出用の位相差画素GAFが設けられた撮像装置であり、ゲイン補正または平均値補正によって位相差画素GAFの画素値を補正して撮影画像を得る。このとき、デジタルカメラ11は、位相差画素GAFの元の画素値CVではなく、ゲイン補正した場合の画素値α・CVを周辺画素の画素値と比較することによって、位相差画素GAFの画素値の補正方法としてゲイン補正が適切か否かを判別する。こうして、位相差画素GAFの元の画素値Cではなく、ゲイン補正した場合の画素値α・CVを基準として、位相差画素GAFの画素値をゲイン補正によって補正するか、平均値補正によって補正するかを判別することにより、撮影画像に補正痕が生じにくい補正方法によって位相差画素GAFの画素値が補正されやすくなる。
例えば、画素値を補正する位相差画素GAFの近傍に、画素ピッチに対して輝度変化が比較的少ない平坦な像が写されている場合に、この位相差画素GAFの画素値をゲイン補正によって補正すると、周辺画素に対して相対的にノイズ成分の比率が大きくなるので、位相差画素GAFのゲイン補正後の画素値α・CVは周辺画素よりも大きくなり易い。しかし、上述のようにゲイン補正後の画素値α・CVと周辺画素の画素値を比較することによって、直接的にゲイン補正の適否が判別されるので、ゲイン補正が原因の補正痕は生じにくい。
また、画素値を補正する位相差画素GAFの近傍に、画素ピッチに対して輝度変化が比較的大きい像(高周波成分の像)が写されている場合、周辺画素の画素値もこの像の特徴によって最大値・最小値の幅が大きいので、ゲイン補正後の画素値α・CVは周辺画素の画素値の間に収まりやすく、位相差画素GAFの画素値はゲイン補正によって補正されやすくなる。したがって、デジタルカメラ11では、高周波の像に平均値補正を施すことによる補正痕は発生しにくい。
特に、フレアやゴースト等、通常の入射角度以外の光によって生じるノイズがある場合には、位相差画素GAFが非対称構造となっていることで、位相差画素GAFと正常画素の感度比がこうしたノイズがない場合の感度比からずれてしまいやすい。このため、こうしたノイズ成分がある場合にゲイン補正によって位相差画素GAFの画素値を補正すると、ゲイン補正後の画素値α・CVが周辺画素の画素値よりも突出して大きく(小さく)なって補正痕になりやすいが、上述のように、ゲイン補正後の画素値α・CVを周辺画素の画素値と直接比較してゲイン補正の適否を判別することによって、こうしたノイズ成分がある場合でも補正痕が生じにくい平均値補正が選択されやすい。
さらに、ゲイン補正後の画素値α・CVは、位相差画素GAFの近傍の像の特徴を数値化した値等と比較されるのではなく、あくまでも周辺画素の画素値と直接比較されるので、画像信号処理回路53によって各種画像処理が施された後も、上述の特徴は概ね変わらない。例えば、画素値α・CVが周辺画素の画素値の間にあるという点は、各種画像処理前後で多くの場合に同じである。このため、画像信号処理回路53による各種画像処理の前段階であっても、デジタルカメラ11では補正痕が生じ難い補正方法が選択されやすい。
また、位相差画素GAFの画素値を補正するときに、位相差画素GAF近傍の像が平坦か高周波かを数値化する場合、複雑で比較的時間を要する演算を行うことが必要であることから、全ての位相差画素GAFの画素値を補正すると比較的多くの時間を費やすことになる。しかし、デジタルカメラ11では、ゲイン補正後の画素値α・CVの算出と、周辺の画素値との大小比較という簡便な方法によって位相差画素GAFの画素値の補正方法を選択する。このため、デジタルカメラ11では、前述のように補正痕の発生を抑えながらも、短時間で容易に位相差画素GAFの画素値を補正することができる。
なお、上述の実施形態では、特殊画素補正部48は、位相差画素GAFの画素値を補正するときに、ゲイン補正後の画素値α・CVを算出すると、周辺画素に欠陥画素GNGが含まれているか否かに関わらず、周辺画素の画素値とゲイン補正後の画素値α・CVを比較して、位相差画素GAFの画素値の補正方法を選択する例を説明したが、これに限らない。例えば、位相差画素GAFの周辺画素に欠陥画素GNGが含まれているか否かを判別し、その結果に応じて位相差画素GAFの画素値の補正方法を選択するのがよい。
この場合、例えば、図7に示すように、まず、上述の実施形態と同様にして、ゲイン補正後の画素値α・CVを算出し(S12)、この値が周辺画素の画素値の間にあるか否かを判別する(S13)。このとき、ゲイン補正後の画素値α・CVが周辺画素の画素値の間の値であり、ゲイン補正が位相差画素GAFの画素値の補正に適している場合には、周辺画素に欠陥画素GNGが含まれていたとしても、周辺画素が複数あることから、位相差画素GNGの画素値の補正方法や補正後の画素値にはそれほど影響はない。したがって、こうした場合には、特殊画素補正部48は、上述の実施形態と同様に、位相差画素GAFの画素値をゲイン補正によって補正する。
一方、ゲイン補正後の画素値α・CVが周辺画素の画素値の間にない場合には、上述の実施形態では、平均値補正によって位相差画素GAFの画素値を補正するが、平均値補正では前述の通り、周辺画素の画素値が位相差画素GAFの補正後の画素値に直接影響を与える。したがって、特殊画素補正部48は、位相差画素GAFの画素値を平均値補正によって補正しようとする場合には、欠陥画素GNGの座標データを用いて周辺画素に欠陥画素GNGがあるか否かを判別し、その結果に応じて平均値補正によって画素値を補正するか否かを決定する(ステップS21)。
このとき、周辺画素に欠陥画素GNGが含まれていなければ上述の実施形態と同様に平均値補正によって位相差画素GAFの画素値を補正する。一方、周辺画素に欠陥画素GNGが含まれている時には、ゲイン補正によって位相差画素GAFの画素値を補正する。このように、周辺画素に欠陥画素GNGがある時にゲイン補正によって位相差画素GAFの画素値を補正すると、周辺画素に欠陥画素GNGが無く、正常に平均値補正が行える場合と比較すれば補正痕が発生しやすくなるものの、平均値補正によって置き換えられる画素値は期待通りの値は得られず、欠陥画素GNGの画素値を用いた平均値補正を行うことによって、より深刻な補正痕が発生することがあることを考慮すれば、こうした深刻な補正痕の発生を抑えられ、良好な撮影画像が得られやすくなる。
ここでは、ゲイン補正後の画素値α・CVを周辺画素の画素値と比較した後に、周辺画素に欠陥画素GNGが含まれるか否かを判別しているが、周辺画素に欠陥画素GNGが含まれるか否かの判別は少なくとも平均値補正が行われる前に行われていれば良い。したがって、図7では、平均値補正を行うステップS14以前に欠陥画素GNGの有無を判別するステップS21があれば良く、例えば、画素値の読み込み(S11)と画素値α・CVと周辺画素の画素値の比較(S13)との間(S11とS12の間またはS12とS13の間)等で、欠陥画素GNGの有無を判別しても良い。
なお、ここでは、周辺画素に欠陥画素GNGが含まれるか否かを判別して、周辺画素に欠陥画素GNGが含まれる場合には単にゲイン補正を選択する変形例を説明したが、これに限らない。位相差画素GAFの画素値の補正ルーチンでは、位相差画素GAFとしては扱わず、欠陥画素として扱うことで、平均値補正によって位相差画素GAFの画素値を補正しつつも、補正痕の発生を抑えることが好ましい。
この場合、例えば、図8に示すように、ゲイン補正後の画素値α・CVが周辺画素の画素値より大きく(小さく)、ゲイン補正による補正が適さないときには、前述のように位相差画素GAFの周辺画素に欠陥画素GNGが含まれるか否かを判別する(ステップS21)。そして、周辺画素に欠陥画素GNGが含まれる時には、補正対象の位相差画素GAFを欠陥画素GNGとして欠陥画素の座標データに登録する(ステップS22)。
次いで、上述のように、欠陥画素GNGとして扱うことを定めた位相差画素GAFは、欠陥画素GNGと同様の方法で平均値補正によってその画素値を補正される(ステップS16)。すなわち、欠陥画素GNGとして扱うことが定められた位相差画素GAFは、隣接する欠陥画素GNGと一体になった欠陥画素群68とみなされ、この欠陥画素群68の周辺画素を用いた平均値補正によって画素値が補正される。
このように、位相差画素GAFの画素値を平均値補正する場合に、周辺画素に欠陥画素GNGが含まれる位置にある位相差画素GAFを欠陥画素GNGとして扱うようにすることで、より好適な平均値補正によって位相差画素GAFの画素値を補正することができる。また、こうして欠陥画素GNGと隣接した位相差画素GAFを欠陥画素GNGとして登録しておくことで、特殊画素補正部48が欠陥画素GNGの画素値を平均値補正によって補正するときに、補正後の画素値に問題がある可能性がある位相差画素GAFを用いずに、欠陥画素GNGの画素値を補正することができるため、欠陥画素GNGの画素値を補正したことによる補正痕の発生を低減することができる。
図4及び図6に示すハニカム配列のCCD32は、R画素とB画素が交互に配置された行(X方向)と、G画素だけが配列された行が交互に、かつ、各行1/2画素分だけ画素の配置をずらしながら配置されている。この他に、図9に示すように、X方向に、G画素とB画素を交互に配列した行と、G画素とB画素を交互に配列した行と、G画素とR画素を交互に配列した行と、G画素とR画素を交互に配列した行とを、各行1/2画素分だけ画素の配置をずらしながら配置してもよい。このCCDは、例えば、添字が「1」の第1群画素と、添字が「2」の第2群画素とで露光時間を互いに独立して制御できるように配線構造等が設けられている。図9では、位相差画素GAFは第2群画素のG画素である。
こうした画素配列のCCDに本発明を適用する場合、第1群画素と第2群画素とで異なる露光時間(電荷蓄積時間)となるようにするときには、周辺画素としては、位相差画素GAFと同群の画素を参照する。例えば、図9のように第2群画素に設けられた位相差画素GAFの場合には、同じ第2群画素の中で、位相差画素GAFに最も近接して配置された同色のG画素Ga〜Gdを周辺画素として用いる。
また、上述のような画素配列のCCDを用いる場合であっても、第1群画素と第2群画素とで同じ露光時間で撮影を行うことがある。この場合、図10に示すように、第2群画素に設けられた位相差画素GAFの画素値を補正するときには、周辺画素として前述と同様の第2群画素のG画素Ga,Gcと、第1群画素の中でG画素よりも位相差画素GAFに近接して配置されたG画素Gα,Gβを周辺画素として用いる。
なお、本発明は、ハニカム配列のCCD32の他に画素がマトリックスに配置された通常のイメージセンサに対しても好適に用いることができる。例えば、画素がいわゆるベイヤー配列に設けられたCCDを用いても良い。また、本発明はCCD32の他に、CMOS型のイメージセンサを用いても良い。
また、赤色画素や青色画素を位相差画素としても良い。また、複数の色の画素に位相差画素が設けられていても良い。但し、複数の色の画素に位相差画素を設ける場合、対となる位相差画素は同色とすることが必要である。
なお、上述の実施形態では、位相差画素GAFが撮像面72の所定位置に設けられているが、位相差画素GAFの具体的な配置は、位相差画素GAFの画素値に基づいてAFを行うことができれば、デジタルカメラ11の仕様等に応じて任意に定めて良い。また、位相差画素の個数も同様に任意に定めて良い。
なお、上述の実施形態では、位相差画素GAFの画素値を補正するときに、位相差画素GAFを中心として、位相差画素GAFに最も近接して配置された4個の周辺画素Ga〜Gd(図4参照)の画素値を参照している。この代わりに、例えば、上述の実施形態で参照する4個の周辺画素と、これに次いで位相差画素GAFに近接する同色の画素を周辺画素として参照しても良い。
上述の実施形態では、位相差画素GAFの画素値を補正するときに、ゲイン補正後の画素値α・CVを算出し、これを周辺画素の画素値と比較してから位相差画素GAFの画素値をゲイン補正または平均値補正で置き換えている。この代わりに特殊画素補正部48が画像データを読み出す段階で、位相差画素GAFの画素値をゲイン補正によって予め補正しておいても良い。したがって、例えば、CCD32から位相差画素GAFの撮像信号を読み出すときに、画像入力コントローラ42でAMP36のゲインを調節することにより、アナログ信号の段階で位相差画素GAFの画素値にゲイン補正を施しても良い。こうして、アナログ信号の段階で位相差画素GAFの画素値をゲイン補正によって補正すると、特殊画素補正部48における演算量が低減され、位相差画素GAFの画素値の補正を短時間で行うことができる。また、アナログ信号の段階で位相差画素GAFの画素値をゲイン補正した場合であっても、AF検出回路46は上述の実施形態と同様に合焦評価値を算出することができる。
なお、上述の実施形態では、位相差画素GAFの画素値を平均値補正する場合、欠陥画素GNGの画素値を平均値補正する場合に、周辺画素の画素値を単純平均した値をこれらの画素の画素値としている。しかし、欠陥画素GNGが複数連続してある場合の平均値補正や、位相差画素GAFを欠陥画素GNGとして扱い、位相差画素GAFと欠陥画素GNGを連続した欠陥画素GNGとして平均値補正する場合等では、補正対象の位相差画素GAF(欠陥画素GNG)から、全ての周辺画素が等距離ではないことがある。このため、こうした補正対象の画素から等距離にない周辺画素を用いて平均値補正を行うときには、各周辺画素と補正対象の画素との距離に応じて重み付けをして算出した周辺画素の画素値の平均値を、補正対象の画素の新たな画素値として用いることが好ましい。
なお、上述の実施形態では、コンパクトタイプのデジタルカメラ11を例に説明したが、AFを行う撮像装置であれば、他の任意の撮像装置に本発明を用いることができる。
11 デジタルカメラ
12 カメラ本体
13 撮影レンズ
32 CCD
32a 画素
68 欠陥画素群
R,R,R 赤色画素
G,G,G 緑色画素
B,B,B 青色画素
AF 位相差画素
NG 欠陥画素
〜G 周辺画素

Claims (8)

  1. 撮像面内に通常画素と焦点検出用画素とが所定パターンで配列され、これらの画素から一画面分の撮像信号を出力するイメージセンサと、
    前記一画面分の撮像信号から前記焦点検出用画素の輝度を参照して合焦状態の評価を行う合焦評価部と、
    前記焦点検出用画素の輝度に所定のゲインを乗じた第1補正値を算出する第1補正値算出部と、
    前記第1補正値と、前記焦点検出用画素の周囲に配置された所定数の前記通常画素の輝度を比較し、前記第1補正値が前記所定数の通常画素の輝度のうちの最大値以下かつ最小値以上の通常範囲内である場合には、前記焦点検出用画素の輝度を前記第1補正値で置き換え、そして前記第1補正値が前記通常範囲外である場合には、前記所定数の通常画素の輝度を平均して第2補正値を算出し、前記焦点検出用画素の輝度を前記第2補正値で置き換えることにより、前記焦点検出用画素の輝度を補正する焦点検出用画素補正部と、
    を備えることを特徴とする撮像装置。
  2. 前記通常画素のなかで欠陥のある欠陥画素の位置が予め記憶されるとともに、前記欠陥画素の周囲に配置された欠陥のない複数の前記通常画素の輝度を平均して第3補正値を算出し、前記欠陥画素の輝度を前記第3補正値に置き換えることにより、前記欠陥画素の輝度を補正する欠陥画素補正部を備えることを特徴とする請求の範囲第1項記載の撮像装置。
  3. 前記欠陥画素補正部は、前記欠陥画素が複数隣接し合って欠陥画素群を形成している場合には、前記欠陥画素群の周囲に配置された前記通常画素の輝度を平均して前記第3補正値を算出することを特徴とする請求の範囲第2項記載の撮像装置。
  4. 前記焦点検出用画素に隣接して前記欠陥画素があるか否かを判別する判別部を備え、
    前記焦点検出用画素補正部は、前記焦点検出用画素に隣接して前記欠陥画素がある場合、前記焦点検出用画素の輝度を前記第1補正値で置き換えることにより、前記焦点検出用画素の輝度を補正することを特徴とする請求の範囲第2項記載の撮像装置。
  5. 前記焦点検出用画素に隣接して前記欠陥画素があるか否かを判別する判別部を備え、
    前記焦点検出用画素補正部は、前記焦点検出用画素に隣接して前記欠陥画素がある場合、当該焦点検出用画素の輝度を前記欠陥画素補正部によって前記第3補正値に置き換えることを特徴とする請求の範囲第2項記載の撮像装置。
  6. 前記判別部は、前記焦点検出用画素に隣接して前記欠陥画素がある場合に、当該焦点検出用画素の位置を前記欠陥画素として登録し、
    前記欠陥画素補正部は、前記欠陥画素の輝度を補正するときに、登録された前記焦点検出用画素を前記欠陥画素とみなし、前記欠陥画素の輝度及び前記登録された焦点検出用画素の輝度を前記第3補正値に置き換えることを特徴とする請求の範囲第4項記載の撮像装置。
  7. 前記イメージセンサは、各々独立した条件で動作をする第1画素群と第2画素群を備え、
    前記焦点検出用画素補正部は、前記第1画素群と前記第2画素群とが互いに異なる露光時間で撮影を行う場合に、前記所定数の通常画素として同じ群内の前記通常画素を用い、前記第1画素群と前記第2画素群とが同じ露光時間で撮影を行う場合に、前記所定数の通常画素として、前記第1画素群及び前記第2画素群に含まれる前記通常画素を用いることを特徴とする請求の範囲第1項記載の撮像装置。
  8. 撮像面内に通常画素と焦点検出用画素とが所定パターンで配列された撮像素子から出力される一画面分の撮像信号から前記焦点検出用画素の輝度を参照して合焦状態の評価を行う合焦評価ステップと、
    前記焦点検出用画素の輝度に所定のゲインを乗じた第1補正値を算出する第1補正値算出ステップと、
    前記第1補正値と、前記焦点検出用画素の周囲に配置された所定数の前記通常画素の輝度を比較し、前記第1補正値が前記所定数の通常画素の輝度のうちの最大値以下かつ最小値以上の通常範囲内である場合には、前記焦点検出用画素の輝度を前記第1補正値で置き換え、そして前記第1補正値が前記通常範囲外である場合には、前記所定数の通常画素の輝度を平均して第2補正値を算出し、前記焦点検出用画素の輝度を前記第2補正値で置き換えることにより、前記焦点検出用画素の輝度を補正する焦点検出用画素補正ステップと、
    を備えることを特徴とする画像処理方法。
JP2012519321A 2010-06-09 2011-05-19 撮像装置及び画像処理方法 Active JP5616442B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012519321A JP5616442B2 (ja) 2010-06-09 2011-05-19 撮像装置及び画像処理方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010132079 2010-06-09
JP2010132079 2010-06-09
PCT/JP2011/061489 WO2011155297A1 (ja) 2010-06-09 2011-05-19 撮像装置及び画像処理方法
JP2012519321A JP5616442B2 (ja) 2010-06-09 2011-05-19 撮像装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2011155297A1 JPWO2011155297A1 (ja) 2013-08-01
JP5616442B2 true JP5616442B2 (ja) 2014-10-29

Family

ID=45097908

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012519321A Active JP5616442B2 (ja) 2010-06-09 2011-05-19 撮像装置及び画像処理方法

Country Status (4)

Country Link
US (1) US8767117B2 (ja)
JP (1) JP5616442B2 (ja)
CN (1) CN102823236B (ja)
WO (1) WO2011155297A1 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101696672B1 (ko) * 2010-05-10 2017-01-17 삼성전자주식회사 영상 신호 처리 방법 및 이를 이용하는 영상 촬영 방법
RU2543950C2 (ru) * 2011-12-28 2015-03-10 Кэнон Кабусики Кайся Устройство формирования изображения и способ управления указанным устройством
US10832616B2 (en) 2012-03-06 2020-11-10 Samsung Display Co., Ltd. Pixel arrangement structure for organic light emitting diode display
KR101615332B1 (ko) * 2012-03-06 2016-04-26 삼성디스플레이 주식회사 유기 발광 표시 장치의 화소 배열 구조
JP5968025B2 (ja) * 2012-04-11 2016-08-10 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP5979961B2 (ja) * 2012-05-07 2016-08-31 キヤノン株式会社 焦点検出装置、焦点検出方法及び撮像装置
JP2014026062A (ja) * 2012-07-26 2014-02-06 Sony Corp 撮像装置および撮像方法
KR102063973B1 (ko) 2012-09-12 2020-01-09 삼성디스플레이 주식회사 유기전계발광 표시장치 및 그의 구동방법
JP2014106476A (ja) 2012-11-29 2014-06-09 Canon Inc 焦点検出装置、撮像装置、撮像システム、焦点検出方法、プログラム、および、記憶媒体
CN103096087B (zh) * 2013-02-06 2015-09-23 上海国茂数字技术有限公司 一种图像和视频编解码方法和系统
US9967481B2 (en) * 2013-03-13 2018-05-08 Intel Corporation Techniques for image sensor pixel correction
EP2782332B1 (en) * 2013-03-22 2017-08-30 Harvest Imaging bvba Digital camera with focus-detection pixels used for light metering
KR101427593B1 (ko) 2013-04-26 2014-08-07 삼성디스플레이 주식회사 유기 발광 표시 장치
JP6263035B2 (ja) * 2013-05-17 2018-01-17 キヤノン株式会社 撮像装置
JP6099536B2 (ja) * 2013-09-27 2017-03-22 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム
US9491442B2 (en) 2014-04-28 2016-11-08 Samsung Electronics Co., Ltd. Image processing device and mobile computing device having the same
JP6584059B2 (ja) * 2014-09-26 2019-10-02 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
KR102246873B1 (ko) * 2014-11-17 2021-04-30 삼성전자 주식회사 이미지 센서가 생성한 픽셀 이미지의 불량 화소 제거 방법, 상기 방법을 이용한 이미지 센서, 및 상기 방법을 이용한 애플리케이션 프로세서
JP2016127389A (ja) 2014-12-26 2016-07-11 キヤノン株式会社 画像処理装置およびその制御方法
JP6494328B2 (ja) * 2015-03-02 2019-04-03 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
US9420164B1 (en) 2015-09-24 2016-08-16 Qualcomm Incorporated Phase detection autofocus noise reduction
US9804357B2 (en) 2015-09-25 2017-10-31 Qualcomm Incorporated Phase detection autofocus using masked and unmasked photodiodes
CN112714252B (zh) * 2015-09-30 2023-04-07 株式会社尼康 摄像装置
JP6547645B2 (ja) * 2016-01-29 2019-07-24 株式会社シグマ 画像処理方法
JP6765829B2 (ja) * 2016-03-16 2020-10-07 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、撮像装置
EP3483937B1 (en) * 2016-07-06 2021-01-13 Sony Semiconductor Solutions Corporation Solid-state imaging device, correction method, and electronic device
JP6837652B2 (ja) * 2016-07-26 2021-03-03 株式会社シグマ 撮像装置及び信号処理方法
US20180288306A1 (en) * 2017-03-30 2018-10-04 Qualcomm Incorporated Mask-less phase detection autofocus
JP6622945B2 (ja) 2017-03-30 2019-12-18 富士フイルム株式会社 画像処理装置、画像処理方法、およびプログラム
EP3447678A1 (en) * 2017-08-21 2019-02-27 Axis AB Method and image processing device for detecting a portion of an image
US10681290B1 (en) 2019-01-03 2020-06-09 Novatek Microelectronics Corp. Method, image sensor, and image processing device for crosstalk noise reduction
CN111476731B (zh) * 2020-04-01 2023-06-27 Oppo广东移动通信有限公司 图像矫正方法、装置、存储介质及电子设备
CN111445882B (zh) * 2020-05-08 2021-07-27 中航华东光电有限公司 一种基于fpga的图像显示虚影滤除方法和系统
CN111982283B (zh) * 2020-08-13 2023-07-11 广州市合熠智能科技股份有限公司 一种高精度rgb传感器集成电路系统
KR20220036630A (ko) 2020-09-16 2022-03-23 삼성전자주식회사 컬러 보정을 위한 영상 처리 장치, 영상 처리 방법 및 이를 포함하는 영상 처리 시스템
KR20220051881A (ko) 2020-10-19 2022-04-27 삼성전자주식회사 비닝 모드에서의 아티팩트를 개선하는 이미지 센서
CN115062656B (zh) * 2022-06-10 2023-08-11 安徽农业大学 一种基于电子鼻信号空间域的茶多酚含量预测方法和装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244823A (ja) * 1999-02-24 2000-09-08 Fuji Photo Film Co Ltd 撮像素子の欠陥画素補正装置
JP2009163229A (ja) * 2007-12-10 2009-07-23 Canon Inc 撮像装置及びその制御方法
JP2010109922A (ja) * 2008-10-31 2010-05-13 Nikon Corp 撮像素子および撮像装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4007716B2 (ja) 1999-04-20 2007-11-14 オリンパス株式会社 撮像装置
US8089537B2 (en) * 2005-08-23 2012-01-03 Nikon Corporation Image processing system and image processing program for defective pixel correction
JP2008048104A (ja) * 2006-08-14 2008-02-28 Sony Corp 撮像装置と欠陥補正回路および欠陥補正方法
JP5029274B2 (ja) * 2007-10-10 2012-09-19 株式会社ニコン 撮像装置
JP5163068B2 (ja) * 2007-11-16 2013-03-13 株式会社ニコン 撮像装置
JP5012495B2 (ja) * 2007-12-26 2012-08-29 株式会社ニコン 撮像素子、焦点検出装置、焦点調節装置および撮像装置
JP5200955B2 (ja) 2008-02-14 2013-06-05 株式会社ニコン 画像処理装置、撮像装置及び画像処理プログラム
JP5563283B2 (ja) * 2009-12-09 2014-07-30 キヤノン株式会社 画像処理装置
JP5697433B2 (ja) * 2010-12-22 2015-04-08 キヤノン株式会社 画像処理装置及び画像処理方法
JP5954964B2 (ja) * 2011-02-18 2016-07-20 キヤノン株式会社 撮像装置およびその制御方法
JP5751946B2 (ja) * 2011-06-15 2015-07-22 キヤノン株式会社 焦点調節装置およびその制御方法
JP6239820B2 (ja) * 2011-12-19 2017-11-29 キヤノン株式会社 撮像装置及びその制御方法
JP5968025B2 (ja) * 2012-04-11 2016-08-10 キヤノン株式会社 撮像装置及び撮像装置の制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244823A (ja) * 1999-02-24 2000-09-08 Fuji Photo Film Co Ltd 撮像素子の欠陥画素補正装置
JP2009163229A (ja) * 2007-12-10 2009-07-23 Canon Inc 撮像装置及びその制御方法
JP2010109922A (ja) * 2008-10-31 2010-05-13 Nikon Corp 撮像素子および撮像装置

Also Published As

Publication number Publication date
US8767117B2 (en) 2014-07-01
JPWO2011155297A1 (ja) 2013-08-01
WO2011155297A1 (ja) 2011-12-15
CN102823236B (zh) 2016-01-20
US20130002911A1 (en) 2013-01-03
CN102823236A (zh) 2012-12-12

Similar Documents

Publication Publication Date Title
JP5616442B2 (ja) 撮像装置及び画像処理方法
JP5468178B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
US8842194B2 (en) Imaging element and imaging apparatus
JP5642433B2 (ja) 撮像装置及び画像処理方法
US10630920B2 (en) Image processing apparatus
JP5541016B2 (ja) 撮像システムおよび画素信号読出し方法
US9979876B2 (en) Imaging apparatus, imaging method, and storage medium
JP3912404B2 (ja) 撮像装置
US8223255B2 (en) Imaging apparatus, auto-focusing method and recording medium
JP4167200B2 (ja) 信号処理装置、信号処理方法及びデジタルカメラ
JP4854531B2 (ja) 位相調整装置およびデジタルカメラ
JP5378283B2 (ja) 撮像装置およびその制御方法
JP4993670B2 (ja) 撮像装置及びその制御方法
JP2010068046A (ja) 撮像装置
JP5299159B2 (ja) 撮像装置およびプログラム
JP5284183B2 (ja) 画像処理装置およびその方法
JP4335648B2 (ja) デジタルカメラ及びデジタルカメラの撮像方法
JP6090565B2 (ja) 撮像装置、撮像方法及びプログラム
JP5950552B2 (ja) 撮像装置、及び撮像装置の制御方法
JP2004343177A (ja) 撮像装置
JP6631099B2 (ja) 撮像装置
WO2015182021A1 (ja) 撮像制御装置、撮像装置および撮像制御方法
JP6601062B2 (ja) 撮像制御装置、撮像制御方法及びプログラム
JP5397313B2 (ja) デジタルカメラ
JP6089390B2 (ja) 撮像装置および信号読み出し方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130508

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140813

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140911

R150 Certificate of patent or registration of utility model

Ref document number: 5616442

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250