JP2010045588A - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP2010045588A
JP2010045588A JP2008208038A JP2008208038A JP2010045588A JP 2010045588 A JP2010045588 A JP 2010045588A JP 2008208038 A JP2008208038 A JP 2008208038A JP 2008208038 A JP2008208038 A JP 2008208038A JP 2010045588 A JP2010045588 A JP 2010045588A
Authority
JP
Japan
Prior art keywords
image
edge
image signal
detection
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008208038A
Other languages
English (en)
Other versions
JP4730412B2 (ja
Inventor
Hiromasa Kinoshita
弘征 木下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008208038A priority Critical patent/JP4730412B2/ja
Priority to US12/496,195 priority patent/US8436910B2/en
Publication of JP2010045588A publication Critical patent/JP2010045588A/ja
Application granted granted Critical
Publication of JP4730412B2 publication Critical patent/JP4730412B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/142Edging; Contouring

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】倍率色収差によって発生する色ずれの検出を精度良く行うことが可能な画像処理装置及び画像処理方法を提供すること。
【解決手段】画像データから少なくとも一部の画像信号を抽出する画像信号抽出部と、抽出された画像信号を検出対象とし、画像信号の輝度値に基づいて、検出対象から画像データによる画像内のエッジ部分を検出するエッジ検出部と、画像内の基準位置からの距離に応じて、画像信号内に含まれる少なくとも2つの色成分について相関を算出し、色ずれ量を検出する色ずれ量検出部とを有する。
【選択図】図1

Description

本発明は、画像処理装置及び画像処理方法に関する。
スチルカメラやビデオカメラ等の撮像装置において、レンズなどの光学系によって倍率色収差が発生する。倍率色収差は、可視光の波長によってレンズの屈折率が異なり、焦点距離が異なるため、像の大きさに差が生じて発生する。
倍率色収差が発生するレンズで白色点光源を撮影すると、画面の周辺部が虹色に色づき、放射方向に伸びるように光源が撮影される。また、通常の被写体でも、特に画像のエッジ部分で色ずれが顕著に見られる。そこで、例えば特許文献1には、倍率色収差による色ずれを検出し画像を補正する技術が開示されている。
特開2006−20275号公報
ところで、特許文献1による技術では、CCDやCMOS等の撮像素子から得られたRAWデータに基づいて、色ずれの検出と補正を行う。その際、画像のエッジ部分を検出対象領域として、色ずれの検出を行う。しかしながら、画像のエッジ部分では、画像信号の輝度値が飽和しているときのフリンジによる偽色が原因で、エッジ部分の周波数特性が劣化してしまい、エッジ部分を正しく検出できないという問題があった。また、点像強度分布関数(PSF:point spread function)による注目画素周辺の点像拡散が原因のフリンジによる偽色が原因で、エッジ部分の周波数特性が劣化してしまい、エッジ部分を正しく検出できないという問題があった。従って、エッジ部分を正しく検出できないため、色ずれの検出精度が低下していた。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、倍率色収差によって発生する色ずれの検出を精度良く行うことが可能な、新規かつ改良された画像処理装置及び画像処理方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、画像信号の信号特性に基づいて、画像データから少なくとも一部の画像信号を抽出する画像信号抽出部と、抽出された画像信号を検出対象とし、画像信号の輝度値に基づいて、検出対象から画像データによる画像内のエッジ部分を検出するエッジ検出部と、画像内の基準位置からの距離に応じて、画像信号内に含まれる少なくとも2つの色成分について相関を算出し、色ずれ量を検出する色ずれ量検出部とを有する画像処理装置が提供される。
上記画像信号抽出部は、画像信号の輝度値が飽和レベル又は飽和レベル近傍であるか否かを判断する判断部と、飽和レベル又は飽和レベル近傍であると判断された画像信号以外の画像信号を抽出する第1の抽出部とを有してもよい。
上記画像信号抽出部は、画像信号が画像内の基準位置から位置する距離を算出する距離算出部と、距離に応じて画像信号を抽出する第2の抽出部とを有してもよい。
上記エッジ検出部は、画像データに含まれる全て又は少なくとも一部の画像信号の輝度値に基づいてエッジ検出に関する閾値を算出する閾値算出部を有し、閾値に基づいて画像データによる画像内のエッジ部分を検出してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、画像信号の信号特性に基づいて、画像データから少なくとも一部の画像信号を抽出するステップと、抽出された画像信号を検出対象とし、画像信号の輝度値に基づいて、検出対象から画像データによる画像内のエッジ部分を検出するステップと、画像内の基準位置からの距離に応じて、画像信号内に含まれる少なくとも2つの色成分について相関を算出し、色ずれ量を検出するステップとを有する画像処理方法が提供される。
本発明によれば、倍率色収差によって発生する色ずれの検出を精度良く行うことができる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
本実施形態の撮像装置100は、例えば、レンズ114が交換可能、又は交換不可能双方におけるディジタルスチルカメラに限られず、カムコーダ、携帯電話機、PDA(Personal Digital Assistants)などの撮像機能を持つ装置に適用可能である。また、パーソナルコンピュータなどに接続されるテレビ電話用又はゲームソフト用などの小型カメラによる撮像信号を処理する処理装置や記録装置にも本実施形態の撮像装置100を適用することができる。
また、後述する撮像装置100の各処理機能は、ハードウェアでもソフトウェアでも実装可能である。また、本明細書で記載する画像処理は、撮像装置100の信号処理における入力データ(RAWデータ)のうちR,G,Bに対する処理である。
まず、本実施形態に係る撮像装置100の構成を説明する。図1は、本実施形態に係る撮像装置を示すブロック図である。
図1に示す撮像装置100は、記憶媒体に映像データを記録可能なビデオカメラである。
撮像装置100は、例えば、イメージセンサ101と、前処理部102と、カメラ信号処理部103と、変換処理部104と、圧縮伸張部105と、メモリ制御部106と、メモリ107と、表示処理部108と、圧縮伸張部109と、記録デバイス制御部110と、記録デバイス111と、表示部112と、制御部113と、撮像レンズ114などを備えている。
撮像レンズ114は、被写体からの入射光を集光させ、後述のイメージセンサ101に被写体像を結像させるレンズ群である。倍率色収差は、被写体からの光が撮像レンズ114を通過する際、可視光の波長の長さでその屈折率が異なるために各色で焦点距離が異なり、結像位置がずれてしまうことにより発生する。また、倍率色収差は、撮像レンズ114の点像強度分布関数(PSF:point spread function)により結像位置において、各色が点像強度分布による分散を持つために、各色間の分散の幅の差が偽色となって発生する。
イメージセンサ101は、光学系(例えば、撮像レンズ114、赤外線除去フィルタ、光学的ローパスフィルタ等を含む。)を介して取り込まれた被写体からの入射光を光電変換によって電気信号に変換する。イメージセンサ101は、例えば、CMOS(Complementary Metal Oxide Semiconductor)型の撮像素子が用いられる。CMOS型撮像素子の場合、フォトダイオード、行・列選択MOSトランジスタ、信号線等が2次元状に配列され、垂直走査回路、水平走査回路、ノイズ除去回路、タイミング発生回路等が形成される。なお、イメージセンサ101として、CCD(Charge Coupled Device)を使用してもよい。
また、イメージセンサ101は、例えば、NTSC方式の仕様である60fps(フィールド/秒)のフレームレートで信号を読み出す。イメージセンサ101は、60fps以上のフレームレート、例えば通常レートの4倍の240fpsで高速に信号を読み出してもよい。イメージセンサ101は、CDS(Correlated Double Sampling)及びA/Dコンバータを内蔵し、イメージセンサ101から撮像データが出力される。
前処理部102は、イメージセンサ101から出力された撮像データに対して、シェーディング補正等の光学的な補正処理を行ってディジタル画像信号を出力する。前処理部102は、後述する倍率色収差の検出や補正を行う。前処理部102は、画像データから少なくとも一部の画像信号を抽出する画像信号抽出部と、抽出された画像信号を検出対象とし、画像信号の輝度値に基づいて、検出対象から画像データによる画像内のエッジ部分を検出するエッジ検出部と、画像内の基準位置からの距離に応じて、画像信号内に含まれる少なくとも2つの色成分について相関を算出し、色ずれ量を検出する色ずれ量検出部とを有する。
カメラ信号処理部103は、前処理部102からの撮像データに対して、同時化処理、ホワイトバランス補正、アパーチャ補正、ガンマ補正、YC生成等のカメラ信号処理を施す。
変換処理部104は、カメラ信号処理部103から受け取った画像信号を表示部112の表示に適合したフレームレート及び画面サイズに変換するための表示間引きとサイズ調整とを行う。なお、表示間引きは表示処理部108に出力するとき行う。
圧縮伸張部105は、変換処理部104からの撮像データに対して、例えばJPEG(Joint Photographic Experts Group)規格などの静止画像の符号化方式で圧縮符号化処理を行う。また、メモリ制御部106から供給された静止画像の符号化データに対して伸張復号化処理を行う。メモリ制御部106は、メモリ107に対する画像データの書き込み及び読み込みを制御する。メモリ107は、メモリ制御部106から受け取った画像データを一時的に保存するFIFO(First In First Out)方式のバッファメモリであり、例えば、SDRAM(Synchronous Dynamic Random Access Memory)などである。
表示処理部108は、変換処理部104又は圧縮伸張部109から受け取った画像信号から、表示部112に表示させるための画像信号を生成して、画像信号を表示部112に送り、画像を表示させる。表示部112は、例えばLCD(Liquid Crystal Display)からなり、撮像中のカメラスルー画像や記録デバイス111に記録されたデータの画像などを表示する。
圧縮伸張部109は、変換処理部104から受け取った画像データに対して、例えばMPEG(Moving Picture Experts Group)などの動画像の符号化方式で圧縮符号化処理を行う。また、記録デバイス111から供給された動画の符号化データに対して伸張復号化処理を行い、表示処理部108に出力する。表示部112は、表示処理部108から受け取った動画を表示する。
制御部113は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などから構成されるマイクロコンピュータであり、ROMなどに記憶されたプログラムを実行することにより、撮像装置100の各構成要素を統括的に制御する。
次に、画像信号処理による倍率色収差の検出及び補正方法の動作について説明する。
本実施形態では、RAWデータにおいて倍率色収差の検出と補正を行うとする。RとBのそれぞれの位置にその近傍のGから補間Gを生成し、画素位置の揃ったRと補間G、又は画素位置の揃ったBと補間Gによって擬似輝度信号を生成する。倍率色収差は、輝度のエッジ付近に生じるということから、擬似輝度信号を用いて高周波成分を検出(エッジを検出)する。ある方向において、像高毎に上記高周波の位置における補間G(のウィンドウ)と、R又はB(のウィンドウ)のずれ量を検出する。そして、ずれ量の検出を様々な方向でも行い、各像高におけるずれ量のヒストグラムを生成し、各像高におけるその最頻値を最終的なずれ量、すなわち収差量として検出する。補正は、RとBに対して行い、検出されたずれ量の分だけずらした位置の画素値を補間することで行う。
図18は、倍率色収差の検出と補正動作を示すフローチャートである。
まず、倍率色収差の検出と補正をRAWデータに対して行うため、RAWデータが入力される(ステップS001)。
次に、Rの画素位置にGを補間する(ステップS002)。この補間されたGを以下では補間Gという。補間Gは、補間位置の近傍にあるGを使用し、加算平均によって得られる。全画像領域に対しこの補間処理を行う。なお、ステップS011までのステップS002以降の処理も同様に全画像領域に対して行われる。これにより、Rと補間GのそれぞれでRAWデータのサイズ、かつ他色が欠落した間欠配列の画像が得られる。そして、この欠落した部分の画素位置にデータを有する画素を寄せて詰めることで、Rと補間GのそれぞれでRAWデータの1/4サイズのプレーン画像を生成する(ステップS002)。以降、ここではRとGを例にしているが、これがBとGであってもよく、RとBのどちらを先に処理するかの処理順は問わない。
そして、同位相に位置するRと補間Gを用い、(R+補間G)/2を計算することで擬似輝度信号を生成する(ステップS003)。この擬似輝度信号は全画素位置それぞれにおいて算出される。
その後、例えば光軸を中心(極)としたときの動径方向に擬似輝度信号をハイパスフィルタ処理(HPF)し、HPF結果の絶対値をエッジ検出用の閾値と比較することによって、高周波成分(エッジ)を検出する(ステップS004)。
次に、上記ステップS004で検出された高周波成分(エッジ)を含む部分を中心としてGのウィンドウを設ける。ここで、ウィンドウとは、例えば5画素×5ライン等の縦横に有限長の画素エリアのことである。また、Gと同サイズのRのウィンドウを設ける。そして、動径方向にシフトしながらGウィンドウとRウィンドウ間で、同じ座標にある画素どうしの差分の絶対値をとり、全て加算する(以下、SAD:Sum of Absolute Differenceと記載する。)。このSAD結果がいわゆるRウィンドウとGウィンドウとの相関を表す指標となる。すなわち、このSAD結果が大きければ相関が低く、SAD結果が小さければ相関が高いということである。上述したように、Rウィンドウを動径方向にシフトしつつSADを求めていき、SAD結果が最も小さい(=最も相関が高い)RウィンドウとGウィンドウと間の距離(=Rウィンドウの中心とGウィンドウの中心との間の距離)を色ずれ量として検出する(ステップS005)。なお、本処理は像高毎に行われる。
そして、ステップS005で得られた色ずれ量を像高100%の距離で正規化することで、各像高におけるRのGに対する拡大縮小倍率を算出する(ステップS006)。これは、Rに対するGの倍率色収差の候補である。なお、本処理は像高毎に行われる。
次に、ステップS005の色ずれ量検出処理とS006の拡大縮小倍率算出処理を様々な任意の動径方向に対して行う(ステップS007)。この任意の動径方向は、360度方向のうち可能な限りバランスさせて様々な方向にとることが望ましく、方向のバランスが均一であったり、方向数が多いほど後述するヒストグラムの精度が増す。
ステップS007で得られた倍率色収差の候補群(拡大縮小倍率)の発生頻度から、像高毎に拡大縮小倍率のヒストグラムを生成する(ステップS008)。このヒストグラムは、倍率色収差の候補の発生頻度の分布を示すものである。そして、ステップS008で得られた各像高におけるヒストグラムの最頻値を最終的に検出された倍率色収差量として決定する(ステップS009)。
そして、各像高毎に、ステップS009で得られた倍率色収差量を用いて、Rの倍率色収差による色ずれを補正する(ステップS010)。ステップS009により得られた倍率色収差量は、Rの補間Gに対する拡大縮小倍率であるので、補正しようとするRの画像中心からの距離に検出された倍率色収差量を乗算する。補正後の画像中心からの距離を得て、その補正した距離に位置するRの画素値を近傍に位置するRから補間することでRの倍率色収差補正が完了する。
また、ステップS002〜S010をBに対しても行うことでBの倍率色収差補正が完了する(ステップS011)。
(フリンジによるエッジ誤検出の問題)
まず、フリンジについて説明する。図2及び図3は、レンズと結像面の関係を示す説明図(A)及び結像面とPSFの関係を示す説明図(B)である。
図2に示すように、点像強度分布関数(PSF:point spread function)(後述)により近傍画素に拡散された色が、広い画素領域に渡って漏れるため、結果として周囲に偽色や色ずれ、色滲みとして発生してしまう現象がフリンジと言われている。図2に示す例は、RとGとBの結像位置がずれている例である。図2に示すように、色がずれる現象が倍率色収差である。なお、フリンジは、倍率色収差が発生していなくても起こり得る現象である。
また、フリンジは、図3に示すように、各色の飽和状態に関わらず起こり得る現象である。フリンジは、エッジ部分における画素のうち、輝度値が上側の画素で輝度値が飽和していると発生しやすい。但し、フリンジは、輝度値の飽和状態に関わらず発生する。フリンジが発生すると、エッジ部分の周波数特性が悪化し、エッジ検出の精度を劣化させる。
また、フリンジは、エッジ強度が大きいほど、フリンジの発生量は大きくなる特徴がある。エッジ強度が大きくなるほど、PSFの拡散が広範囲に及び、拡散の裾野の範囲が多くなるからである。エッジ強度とは、隣接する画素の輝度値の差である。
また、フリンジは、像高が高くなるほど、フリンジの発生量は大きくなる特徴がある。像高が高くなるほど、PSFの拡散が広範囲に及び、結像位置のずれが多くなるので、拡散した裾野の見える範囲が多くなるためである。像高とは、画像内における光軸中心からの距離である。
次に、PSFに関して説明する。図4は、点光源10、レンズ114、撮像素子101上の点像12、PSF14の関係を示す説明図である。
図4に示すように、光学レンズの精度は、例えば点像強度分布関数(PSF:Point Spread Function)を使って表す。
点像強度分布関数とは、点を撮影し光学レンズによる像のぼけ方を得たものであり、ボケた時の強度分布を表す関数である。点像強度分布関数は、理想的な点像が光学系を通過した場合にどのように光線が広がるかを表した関数である。
点とは、Diracのデルタ関数を意味する。離散的な信号処理では、撮影面における撮像素子の分解能を物体空間に写像した時の大きさが、より十分に小さければ良いことになる。数式的には
a・e−2(x/σ)(x/σ)
x:距離(mm)、σ:分散(mm)、a:規格化定数
のように表現されることが知られている。
また、図10A、図10Bに示すように、PSFは、像高が高くなるにつれてその色の拡散度合が増加し、結像位置のずれも大きくなるという特徴がある。図10A、図10Bは、点像強度分布関数を示すグラフである。図10Aの上のグラフは、光軸上のPSFであり、図10Aの下のグラフは、像高50%のPSFであり、図10Bのグラフは、像高100%のPSFである。一点鎖線は緑色成分を示し、実線は赤色成分を示し、破線は青色成分を示す。
上記距離xは、撮像素子の画素ピッチやレンズからの距離等の仕様が既知であればそれを画素数に換算できることから、以降、PSFの拡散度合は上記のような距離xをその換算画素数で扱うこととする。
ここで、フリンジによるエッジ検出精度の低下を防ぐための第1の実施例を示す。
第1の実施例では、フリンジは、輝度値が飽和しているエッジで発生し易いという特徴を用いて、まず輝度値の飽和状態を参照する。
擬似輝度信号のエッジ検出を行う際、エッジと判別された箇所において、図5(A)のように、まず上側の擬似輝度信号レベルが飽和しているか否かを判別する。図5は、輝度信号のレベルを示す説明図である。
図5(A)のように、輝度値に差が生じて擬似輝度信号のエッジが発生しているとき、隣接する画素において、上側の擬似輝度信号レベルが飽和していれば、図5(B)のように点線で示されるようなフリンジが発生している可能性が高い。
そこで、本実施形態では、飽和しているエッジにおいては倍率色収差検出を無効にするための処理を行い、当該エッジを倍率色収差の検出に使用させない。エッジが飽和しているか否かを判別する方法は、例えば図5(A)にあるようにエッジの上側の擬似輝度信号のレベルを参照し、それが最大レベルか最大レベル付近になっているかを判別する。擬似輝度信号のレベルが最大レベルか最大レベル付近になっている場合には、以降そのエッジでは倍率色収差の検出処理を行わない、又は処理を無効にする。
なお、本実施形態では、擬似輝度信号は、(R(又はB)+補間G)/2で生成されるとしているが、これに限ったものではない。例えば、R(又はB)と補間Gを使用した演算により得られれば、その演算結果を擬似輝度信号としてもよい。または、補間Gそのものを擬似輝度信号としてもよい。
また、図19は、上記処理を示すフローチャートである。これは、図18におけるS004の改良処理である。図19の開始は図18のS003の出力となり、図19の終了は図18のS005の入力となる。
まず、ステップS003で生成された擬似輝度信号が入力され、入力された擬似輝度信号レベルが飽和しているか否か、又は飽和付近にあるか否かを判別する(ステップS104A)。
入力された擬似輝度信号レベルが飽和していない場合、又は飽和付近にない場合は、擬似輝度信号を動径方向にHPFする。そして、HPF結果の絶対値をエッジ検出用の閾値と比較することでエッジを検出する(ステップS104B)。
一方、入力された擬似輝度信号レベルが飽和している場合、又は飽和付近にある場合は、擬似輝度信号について、エッジの検出を行わない(ステップS104C)。以上のように、S104BとS104Cによって得られるエッジ検出結果を用いて、ステップS005で色ずれ量を検出する。
次に、フリンジによるエッジ検出精度の劣化を防ぐための第2の実施例を示す。
第1の実施例では、輝度レベルが飽和しているエッジに対する処理であるが、第2の実施例では輝度レベルが飽和しているか否かに関わらず、輝度エッジにおける処理を行う。
図11に示すように、フリンジは、同一のエッジ強度であると、像高が大きくなるにつれて広がる。従って、偽色が発生する領域が多くなる。なお、図11は、輝度信号のレベルを示す説明図である。図11は、輝度レベルが飽和している例であるが、飽和していない状態でも同様である。これは、像高が大きくなるにつれて、PSFによる偽色範囲が大きくなることによるものである。この範囲を倍率色収差の検出から除外され易くする手段を採用することで、第1の実施例から更にその検出精度を向上させる。
エッジ検出は、ステップS104Bで説明したように、擬似輝度信号にHPFを行い、HPF結果を閾値と比較することで行われる。ここで、閾値よりHPF結果が大きければそれは高周波成分であると判断でき、高周波成分であると判断されたときエッジ検出とする。
この閾値は、第1の実施例では一定値であるが、本第1の実施例ではこの閾値を像高の大きさに応じて変化させる。例えば、第1の実施例における閾値をTH1とし、像高をRとすれば、像高に応じて変化させた閾値TH2は、例えば次式で表される。

TH2=TH1×(1+R)+OFST(オフセット)
本例では、像高は正規化されており、0≦R≦1であり、Rは小数点以下の精度をもつ。また、0≦OFST≦TH1とし、OFSTは小数点以下の精度をもつ。これは図6(A)に示すように、像高変化に対してリニアに閾値TH2を変化させている例であり、像高が高くなるにつれてフリンジの影響を除外するエッジ検出を行えるようになる。図6は、閾値と像高の関係を示すグラフである。
また、図6(B)、図6(C)には、像高変化に対してノンリニアに閾値を変化させている例を示す。これらのように、像高に対する閾値TH2をレンズの特性にあわせて非線形に設定することによりレンズ固有の特性に最適化された閾値TH2を使用することも可能となる。ここで、レンズ固有の特性はあらかじめメモリ等の記憶媒体に記憶したものを用いてもよく、交換式レンズが装着される場合などにはレンズがその固有情報を記憶しておき、それを信号処理部が得ることにより像高に対する閾値の設定を行うとしてもよい。
また、図20は、上記処理を示すフローチャートである。
これは、図18におけるS004の改良処理である。従って、図20の開始は図18のS003の出力となり、図20の終了は図18のS005の入力となる。
まず、ステップS003で生成された擬似輝度信号が入力され、入力された擬似輝度信号が位置する座標から、像高Rを得る(ステップS204A)。
ステップS204Aで得られた像高Rを用い、エッジ検出用の閾値TH2をRの関数として得る(ステップS204B)。これは、例えば像高が大きくなるにつれて閾値TH2も大きくしていくような処理である。
次に、擬似輝度信号を動径方向にHPFする。そして、HPF結果の絶対値をステップS204Bで得られたエッジ検出用の閾値TH2と比較することでエッジを検出する(ステップS204C)。以上のように、ステップS204Cによって得られるエッジ検出結果を用いて、ステップS005で色ずれ量を検出する。
次に、フリンジによるエッジ検出精度の劣化を防ぐための第3の形態を示す。
第3の実施例では、第2の実施例と同様、輝度レベルが飽和しているか否かに関わらず、輝度エッジにおける処理を行う。
図12に示すように、フリンジは、同一の像高であると、エッジ強度が大きくなるにつれて広がる。従って、偽色が発生する領域が多くなる。なお、図12は、輝度信号のレベルを示す説明図であり、図12は、輝度レベルが飽和している例であるが、飽和していない状態でも同様である。これは、エッジ強度が大きくなるにつれて、PSFによる偽色範囲が大きくなることによるものである。この範囲を倍率色収差の検出から除外され易くする手段を採用することで、第1の実施例から更にその検出精度を向上させる。
エッジ検出は、ステップS104Bで説明したように、擬似輝度信号にHPFを行い、HPF結果を閾値と比較することで行われる。ここで、閾値よりHPF結果が大きければそれは高周波成分であると判断でき、高周波成分であると判断されたときエッジ検出とする。
この閾値は、第1の実施例では一定値であるが、本第3の実施例ではこの閾値をエッジ強度の大きさに応じて変化させる。
例えば、第1の実施例における閾値をTH1とし、エッジ強度を|HPF|とすれば、エッジ強度に応じて変化させた閾値TH2は、例えば次式で表される。

TH2=TH1×(1+|HPF|)+OFST
本例では、エッジ強度は正規化されており、0≦|HPF|≦1であり、|HPF|は小数点以下の精度をもつ。また、0≦OFST≦TH1とし、OFSTは小数点以下の精度をもつ。これは図7(A)に示すように、エッジ強度変化に対してリニアに閾値TH2を変化させている例であり、エッジ強度が高くなるにつれてフリンジの影響を除外するエッジ検出を行えるようになる。図7は、閾値と|HPF|の関係を示すグラフである。
また、図7(B)、図7(C)には、エッジ強度変化に対してノンリニアに閾値を変化させている例を示す。これらのように、エッジ強度に対する閾値TH2をレンズの特性にあわせて非線形に設定することによりレンズ固有の特性に最適化された閾値を使用することも可能となる。ここで、レンズ固有の特性はあらかじめメモリ等の記憶媒体に記憶したものを用いてもよいし、交換式レンズが装着される場合などにはレンズがその固有情報を記憶しておき、それを信号処理部が得ることによりエッジ強度に対する閾値の設定を行うとしてもよい。
また、図21に上記処理フローを示す。
これは、図18におけるS004の改良処理である。従って、図21の開始は図18のS003の出力となり、図21の終了は図18のS005の入力となる。
まず、ステップS003で生成された擬似輝度信号が入力され、入力された擬似輝度信号をHPFし、その絶対値を算出することでエッジ強度|HPF|を得る(ステップS304A)。
ステップS304Aで得られたエッジ強度|HPF|を用い、エッジ検出用の閾値TH2を|HPF|の関数として得る(ステップS304B)。これは、例えばエッジ強度が大きくなるにつれてTH2も大きくしていくような処理である。
次に、擬似輝度信号を動径方向にHPFする。そして、HPF結果の絶対値をステップS304Bで得られたエッジ検出用の閾値TH2と比較することでエッジを検出する(ステップS304C)。以上のように、ステップS304Cによって得られるエッジ検出結果を用いて、ステップS005で色ずれ量を検出する。
なお、これまでに示した第1の実施例、第1の実施例及び第3の実施例を同時に実現することにより、これら3つの実施例の効果を同時に得ることも可能である。また、3つの実施例のうち、いずれか2つの実施例を取捨選択することも可能である。
ここで、図19、図20、図21に示したフローチャートに示したような第1の実施例、第1の実施例及び第3の実施例を同時に実現する場合のフローを図22に示す。
これは、図18におけるS004の改良処理である。従って、図22の開始は図18のS003の出力となり、図22の終了は図18のS005の入力となる。
まず、ステップS003で生成された擬似輝度信号が入力され、入力された擬似輝度信号レベルが飽和しているか否か、又は飽和付近にあるか否かを判別する(ステップS404A)。
次に、ステップS404Aで入力された擬似輝度信号レベルが飽和していない、又は飽和付近にないと判別された擬似輝度信号が入力され、入力された擬似輝度信号が位置する座標から、像高Rを得る(ステップS404B)。または、後述するS404Lにおいて、飽和レベル若しくは飽和レベル付近の輝度信号であるが、エッジ検出に使用すると判別された擬似輝度信号が入力され、入力された擬似輝度信号が位置する座標から、像高Rを得る(ステップS404B)。
ステップS404Bから出力された擬似輝度信号が入力され、入力された擬似輝度信号をHPFし、その絶対値を算出することでエッジ強度|HPF|を得る(ステップS404C)。次に、像高に応じてエッジ検出のための閾値(以下、エッジ閾値ともいう。)を変化させるかの動作決定を行う(ステップS404D)。像高に応じてエッジ検出のための閾値を変化させると決定した場合、更に、エッジ強度に応じてもエッジ閾値を変化させるかの動作決定を行う(ステップS404D)。
ステップS404DとステップS404Eによって、像高とエッジ強度の双方に応じてエッジ閾値を変化させると決定した場合は、エッジ検出用の閾値TH2を、Rと|HPF|の関数として得る。一方、ステップS404DとステップS404Eによって、像高のみに応じてエッジ閾値を変化させると決定した場合は、エッジ検出用の閾値TH2を、Rの関数として得る(ステップS404G)。
また、ステップS404Dによって、像高に応じてエッジ検出のための閾値を変化させないと決定した場合、更に、エッジ強度に応じてエッジ閾値を変化させるかの動作決定を行う(ステップS404H)。ステップS404DとステップS404Hによって、エッジ強度のみからエッジ閾値を変化させると決定した場合は、エッジ検出用の閾値TH2を、|HPF|の関数として得る(ステップS404I)。ステップS404DとステップS404Hによって、像高及びエッジ強度のいずれからもエッジ閾値を変調させないと決定した場合は、エッジ検出用の閾値TH1を、固定値として得る(ステップS404J)。
次に、擬似輝度信号を動径方向にHPFする。そして、HPF結果の絶対値を、ステップS404F、ステップS404G若しくはステップS404Iによって得られたエッジ検出用の閾値TH2、又はステップS404Jによって得られたTH1と比較することでエッジを検出する(ステップS404K)。ステップS404Aで飽和レベル若しくは飽和レベル付近であると判別された擬似輝度信号が入力され、その擬似輝度信号について、エッジの検出をするか否か判別する(ステップS404L)。
ステップS404Lで飽和レベル若しくは飽和レベル付近であるため、エッジ検出に使用しないと判断された擬似輝度信号は、エッジ検出対象から除外され、擬似輝度信号についてエッジ検出を行わない(ステップS404M)。
以上のように、S404K又はS404Mによって得られるエッジ検出結果を用いて、ステップS005で色ずれ量を検出する。
次に、フリンジによるエッジ検出精度劣化を防ぐための第4の実施例を示す。
上述のように、フリンジはPSFによる画素レベルの拡散により、像高が高くなるにつれて、偽色が発生する領域が広範囲にわたる。本第4の実施例では、レンズ固有の特性を考慮してエッジ検出除外領域を決定することで色ずれ量の検出精度を向上させる。
この手段を説明する。
まず、あらかじめ記憶媒体にレンズ固有の情報を記憶しておく。このレンズ固有の情報とは、各像高におけるPSFによる画素レベル拡散情報である。例えば図10に示すように、PSFは像高が高くなるにつれてその色の拡散度合が増し、広範囲に偽色が発生する。この偽色発生範囲は図10のようなPSF情報から得られるものであるため、PSF情報をあらかじめ記憶しておく。なお、PSF情報はレンズの設計データとして既知な情報である。
図8に像高50%の位置におけるエッジ検出除外領域の例を示す。図8は、撮像面とPSFを示す説明図である。
この例は、擬似輝度信号が飽和しているか否かを問わず、像高50%の位置での擬似輝度信号に対して、その周辺画素をエッジ検出対象から除外する際の除外領域を示している。
なお、他の像高においても同一の概念が適用される。
例えば、図8に示すように、像高50%の位置でのPSFによって、円(楕円)で示される領域に偽色が発生する。そこで、第4の実施例では、偽色が発生する円内部ではエッジ検出を行わないようにさせる。しかし、PSFは一般的にどこの像高でも拡散領域が存在するので、図8に示すような偽色領域の除外を全画像領域に適用すると、結果的にエッジ検出対象が存在しなくなってしまう。このことからも、除外領域に対して何らかの制約をつけることが望ましい。
例えば、図8における拡散長さaやbに像高割合を乗算するなどして、
a’=a×R
b’=b×R
上記のように新たな拡散長さa’とb’を算出して適用することが望ましい。ここで、0≦R≦1であり、Rは小数点以下の精度をもつ。こうすることにより、像高の高い位置で目立つフリンジによる偽色の範囲のエッジ検出を除外し、像高に応じた適応的なエッジ検出領域を得ることが可能となる。なお、上記a’やb’の算出は上例に限定されたものではなく、像高以外にも例えば上述のエッジ強度に応じて変化させたものでもよい。
以上により、PSFや像高、エッジ強度などを考慮してフリンジの影響を除外するエッジ検出を行えるようになる。
また、上述した第4の実施例について、実際には信号処理回路規模、又はDSPの処理時間等の諸制約によって、エッジ検出を行わなくさせる領域を更に簡易的に設定することもできる。図9は、撮像面とPSFを示す説明図である。
ここでは、図9に示すように像高50%の位置でのPSFにより、
水平開始位置:x−a
水平終了位置:x+b
垂直開始位置:y−a
垂直終了位置:y+b
の領域に偽色が発生していると仮定し、この領域での検出を行わないようにする。
しかし、上述したように、PSFは一般的にどこの像高でも拡散領域が存在するので、図9に示すような偽色領域の除外を全画像領域に適用すると、結果的にエッジ検出対象が存在しなくなってしまう。このことからも、除外領域に対して何らかの制約をつけることが望ましい。
例えば、図9における拡散長さaやbに像高割合を乗算するなどして、
a’=a×R
b’=b×R
上記のように新たな拡散長さa’とb’を算出して適用することが望ましい。ここで、0≦R≦1であり、Rは小数点以下の精度をもつ。こうすることにより、像高の高い位置で目立つフリンジによる偽色の範囲のエッジ検出を除外し、像高に応じた適応的なエッジ検出領域を得ることが可能となる。なお、上記a’やb’の算出は上例に限定されたものではなく、像高以外にも例えば上述のエッジ強度に応じて変化させたものでもよい。
以上により、PSFや像高、エッジ強度などを考慮してフリンジの影響を除外するエッジ検出を行えるようになる。
また、図23に上記処理フローを示す。
これは、図18におけるS004の改良処理である。従って、図23の開始は図18のS003の出力となり、図23の終了は図18のS005の入力となる。
まず、ステップS003で生成された擬似輝度信号が入力され、入力された擬似輝度信号が位置する座標から、像高Rを得る(ステップS504A)。
次に、ステップS504Aで得られた像高Rを用い、擬似輝度信号周辺において、エッジ検出から除外する領域をPSFの関数として得る(ステップS504B)。
そして、エッジ検出から除外する領域以外において、擬似輝度信号の高周波成分(エッジ)を検出する(ステップS504C)。
以上のように、ステップS504Cによって得られるエッジ検出結果を用いて、ステップS005で色ずれ量を検出する。
レンズの固有の情報を取得するには、レンズが交換式である場合、レンズ部のROMに記憶されたPSF情報、又はPSF情報に相当する情報を取得する。これにより、レンズ固有の特性を考慮することができる。また、レンズが交換式ではない場合は、当該レンズのPSF情報、又はPSF情報に相当するデータを既知として、予め信号処理部の記憶媒体に記憶させておく。これにより、レンズ固有の特性を考慮することができる。
[本実施形態の効果]
1.輝度レベルが飽和レベル付近にある擬似輝度信号の領域、すなわちフリンジ発生領域(PSFによる画素レベルの拡散による偽色領域)においては、エッジ検出を行わないことで、エッジ検出するエッジを適応的に決定できる。これにより、飽和エッジによって明らかに発生するであろうフリンジを検出領域から除外することができ、フリンジによるエッジ周波数特性劣化や偽色の悪影響による検出精度の劣化を発生させない倍率色収差検出が可能となる。
2.輝度レベルが飽和しているか否かに関わらず、エッジ検出のための閾値を像高の大きさに応じて変化させることで、検出するエッジを適応的に決定できる。これにより、エッジの周辺部に発生するフリンジを像高に応じて検出領域から除外することができ、像高が大きくなるにつれて範囲が大きくなるフリンジによるエッジ周波数特性劣化や偽色の悪影響による検出精度の劣化を発生させない倍率色収差検出が可能となる。
3.輝度レベルが飽和しているか否かに関わらず、エッジ検出のための閾値をエッジ強度の大きさに応じて変化させることで、検出するエッジを適応的に決定できる。これにより、エッジの周辺部に発生するフリンジをエッジ強度に応じて検出領域から除外することができ、エッジ強度が大きくなるにつれて範囲が大きくなるフリンジによるエッジ周波数特性劣化や偽色の悪影響による検出精度の劣化を発生させない倍率色収差検出が可能となる。
4.上記第1〜第3の実施例を同時に、かつ選択的に実現する。即ち、輝度レベルが飽和レベル付近にあるエッジにおいてはエッジ検出を行わないこと、及び輝度レベルが飽和しているか否かに関わらず、像高の大きさ又はエッジ強度の大きさに応じてエッジ検出のための閾値を変化させることを選択的に可能とする。これにより、飽和エッジの周辺部に発生するフリンジを検出領域から除外することができ、全エッジの周辺部に発生するフリンジを像高又はエッジ強度に応じて検出領域から除外することができる。飽和エッジにより明らかに発生するであろうフリンジや、像高やエッジ強度が大きくなるにつれて、範囲が大きくなるフリンジによる
エッジ周波数特性劣化や偽色の悪影響により検波精度を劣化させない倍率色収差検出が可能となる。
5.輝度レベルが飽和しているか否かに関わらず、エッジ検出を行う領域を、レンズ固有の特性(PSF)を考慮して決定することで、検出するエッジを適応的に決定できる。これにより、エッジの周辺部に発生するフリンジをPSFに応じて検出領域から除外することが可能となり、像高が大きくなるにつれてその範囲が大きくなるフリンジによるエッジ周波数特性劣化や、偽色の悪影響による検出精度の劣化を発生させない倍率色収差検出が可能となる。
6.本来、倍率色収差は、レンズの光学設計・製造の際に抑えておくことがより良い。しかし、従来、レンズの光学設計・製造時に行っていた倍率色収差の低減方法は、高コスト化やレンズブロックの大型化に繋がっていた、又はレンズの大きさを据え置きにしようとすると低倍率のレンズになってしまっていた。一方、本実施形態のように倍率色収差の検出及び補正を信号処理で行うことによって、カメラのレンズブロックの小型化、低コスト化、高倍率化を容易に実現できる。
次に、ノイズによるエッジ検出精度劣化を防ぐための本実施形態の第5の実施例について説明する。画像データに生じるノイズは、一般的にISO感度に比例してその振幅と強度が大きくなる。例えば、強度が等しいエッジに対して、ISO感度によっては、S/N比の変化に応じて、エッジがノイズに埋もれてしまう場合が多々ある。
図13は、輝度信号のレベルを示す説明図である。図13(A)に示すように、ISO感度が低い場合はS/N比がよいため、エッジがノイズに埋もれてしまうことはなく、エッジ検出はノイズの影響を受けにくい。一方、図13(B)に示すように、ISO感度が高い場合はS/N比が悪いため、エッジがノイズに埋もれてしまうことが多々あり、エッジ検出はノイズの影響を受け易く、誤検出の発生頻度が高くなる。
上記のような誤検出を回避するためには、エッジ検出のための閾値をISO感度に応じて変化させる手法が望ましい。例えば、閾値をTHとし、ISO感度の度合いを表すパラメータをISOとし、ISO感度に応じて変化させる閾値をTH’とすると、
TH’=TH×ISO
として変化させる。ここで、ISOは、例えば
ISO100のときのパラメータ値:1
ISO200のときのパラメータ値:2
ISO400のときのパラメータ値:4
ISO800のときのパラメータ値:8
ISO1600のときのパラメータ値:16
ISO3200のときのパラメータ値:32
とする。図14にISO感度変化に応じて異なる値を有する上記ISOパラメータの一例を示す。図14は、ISOとISO感度の関係を示すグラフである。この例の場合、ISO感度に応じて閾値THを適応的に変化させることとなり、ノイズレベルに応じて閾値を変化させることができる。その結果、ノイズに影響を受けにくいエッジ検出が可能となる。
また、図24に上記処理フローを示す。
これは、図18におけるS004の改良処理である。従って、図24の開始は図18のS003の出力となり、図24の終了は図18のS005の入力となる。
まず、画像データ撮影時のISO感度情報を例えば画像データから得る(ステップS604A)。そして、エッジ検出用の閾値TH’をISO感度の関数として得る(ステップS604B)。次に、擬似輝度信号を動径方向にHPFし、HPF結果の絶対値をステップS604Bで得られたエッジ検出用の閾値TH’と比較することでエッジを検出する(ステップS604C)。
以上のように、ステップS604Cによって得られるエッジ検出結果を用いて、ステップS005で色ずれ量を検出する。
(補間G生成方法)
次に、エッジ検出用にHPFを行う際に使用する補間G生成方法に関して説明する。
補間Gは、HPFの方向にも加算が行われているとHPF方向の周波数特性が劣化するため、HPFによるエッジ検出精度が劣化してしまう。本変更例によれば、このエッジ検出精度の劣化を防ぐことができる。
いま、図15(A)のようにエッジ検出のためのHPFを垂直上方向に行う場合を考える。図15は、画素配列を示す説明図である。HPFは、擬似輝度信号を用いて行う。擬似輝度信号は、R及びBの画素位置に、最も近傍のGから補間Gを生成し、その補間Gと、R若しくはBから生成された信号である。すなわち、Rの位置に擬似輝度信号を生成する場合、図15(B)のようなRの位置に、図15(C)のGの位置から図15(D)のように補間Gを生成することでRとGの位相を揃える。
ここで、HPFは垂直上方向に行うので、本変更例では、補間Gを生成する際は、垂直方向のGを使用せず、水平方向のGのみを使用する(図15(D)に示す矢印の方向)。これにより、HPF方向である垂直方向の周波数特性を劣化させないようにできる。
以上は、垂直にHPFを行う際の例であるが、垂直以外にHPFをする場合、例えば、水平方向、又は斜め方向にHPFを行う際の前処理としても、同様の考えに基づき補間Gを生成するGを選択する。
すなわち、補間Gを生成する際には、HPF方向に直交する方向のみに位置するGを用いて、補間Gを生成することで、より高精度なエッジ検出が可能となる。
次に、SAD(Sum of Absolute Difference)を行う際に使用する補間G生成方法に関して説明する。
補間Gは、SADの方向にも加算が行われていると、SAD方向の周波数特性が劣化し、
そのためにSADによる倍率色収差検出精度が劣化してしまう。これを防ぐための形態を示す。
いま、図16は、画素配列を示す説明図である。図16(A)のように倍率色収差検出のためのSADを右斜め方向に行う場合を考える。SADは、R若しくはBと、補間Gを用いて、擬似輝度信号を生成した後、エッジ検出を経て、エッジ部分のR若しくはBと補間Gを用いて行われる。
ここで、この補間Gは、R及びBの画素位置に、最も近傍のGから補間Gを生成し、その補間Gと、R若しくはBから生成される。すなわち、Rの位置に擬似輝度信号を生成するとする場合、図16(B)のようなRの位置に、図16(C)のGの位置から図16(D)のように補間Gを生成することでRとGの位相を揃える。
ここで、SADは右斜め上方向に行うので、本変更例では、補間Gを生成する際は、右斜め方向からのGを使用せず、左斜め方向からのGのみを使用する(図16(D)に示す矢印の方向)。これにより、SAD方向である右斜め上方向の周波数特性を劣化させないようにできる。
以上は、右斜めにSADを行う際の例であるが、右斜め以外にSADをする場合、例えば水平、垂直、左斜め方向にSADを行う際の前処理としても、同様の考えに基づき補間Gを生成するGを選択する。
すなわち、補間Gを生成する際には、SAD方向に直交する方向のみに位置するGを用いて、補間Gを生成することで、より高精度な色ずれ量検出が可能となる。
(内挿補間する方法)
ここでは、SADにより得られるGに対するR若しくはBの変位の小数点以下の精度を内挿補間する方法を説明する。
SADの結果は整数で得られるが、倍率色収差は小数点以下の精度を有している。よって、SADで得られる結果を用いて内挿補間を行うことで小数点以下の検出精度を得るものである。
いま、図17のように、SADにより変位量iを極小値とする収差が検出されたとする。図17は、相関値と変位の関係を示すグラフである。ここで、図17に示されている変位量と相関値を用いて、内挿補間値Vxを表現すると
Vx=i+(a−b)/[2×{max(a,b)−c}]
となる。なお、これは、図17に示されている2本の直線の交点の水平軸座標を演算したものである。
本内挿補間方法は、極小点の左右に位置する点において、極小点と結線した場合に、より傾きの大きい結線が可能になる結線上に極小点を位置させるという考えに基づく内挿補間方法である。
以上により、SADでは画素数精度、すなわち小数点以下の検出精度が存在し得なかったところに本手法により画素数精度を超えた、すなわち小数点以下の検出精度を得ることできる。
1.輝度レベルが飽和しているか否かに関わらず、エッジ検出のための閾値をノイズの多さを推定できる指標、例えばISO感度の大きさに応じて変化させることで、検出するエッジを適応的に決定することができる。その結果、ノイズに埋もれたエッジでは検出を行わなくすることが可能となり、ノイズレベルに左右されず、低照度時やS/N比が悪い撮影状態であってもエッジ検出精度を劣化させない倍率色収差検出が可能となる。
2.補間Gを生成する際、その後段処理として行われるエッジ検出時HPFの方向を考慮し、そのHPF方向に直交する方向のみに位置するGを用いて補間Gを生成する。その結果、上記HPF時にHPF方向の補間Gの周波数特性劣化を防ぐことが可能となり、HPF方向になまることなく、より高周波情報を残した補間Gを用いてHPFが可能となる。
その結果、検出できる高周波成分を入力画像に忠実に検出することができ、精度のよい倍率色収差検出が可能となる。
3.SADを行う際、補間Gウィンドウに対するR若しくはBウィンドウのシフト方向を考慮し、そのシフト方向に直交する方向のみに位置するGを用いて補間Gを生成する。その結果、SAD時に上記シフト方向の補間Gの周波数特性劣化を防ぐことが可能となり、上記シフト方向になまることなく、より高周波情報を残した補間Gを用いてSADが可能となる。
その結果、検出できる色ずれ量を入力画像に忠実に検出することができ、精度のよい倍率色収差検出が可能となる。
4.小数点以下の精度を持たない倍率色収差量検出結果に対し、内挿補間を行い小数点以下の精度を補間して求めることにより、精度が不足している(小数点以下の精度を持たない)検出結果を高精度化(小数点以下の精度を持たせる)ことが可能となる。本来、倍率色収差は小数点以下の精度をもっているので、真の倍率色収差量に検出結果を近づけることができ、精度のよい倍率色収差検出が可能となる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
本実施形態では、ベイヤ配列のRAWデータを採用しているが、ベイヤ配列以外の画素配列である場合も同様である。具体的には、色ずれ検出時に、Gを補間する際に使用するGの参照位置がそれらベイヤ配列以外の画素配列依存となり、補間時に、R又はBを補間する際に使用するR又はBの参照位置がそれらベイヤ配列以外の画素配列依存となる。
本発明の一実施形態に係る撮像装置を示すブロック図である。 レンズと結像面の関係を示す説明図(A)及び結像面とPSFの関係を示す説明図(B)である。 レンズと結像面の関係を示す説明図(A)及び結像面とPSFの関係を示す説明図(B)である。 点光源10、レンズ114、撮像素子101上の点像12、PSF14の関係を示す説明図である。 輝度信号のレベルを示す説明図である。 閾値と像高の関係を示すグラフである。 閾値と|HPF|の関係を示すグラフである。 撮像面とPSFを示す説明図である。 撮像面とPSFを示す説明図である。 点像強度分布関数を示すグラフである。 点像強度分布関数を示すグラフである。 輝度信号のレベルを示す説明図である。 輝度信号のレベルを示す説明図である。 輝度信号のレベルを示す説明図である。 ISOとISO感度の関係を示すグラフである。 画素配列を示す説明図である。 画素配列を示す説明図である。 相関値と変位の関係を示すグラフである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。 倍率色収差の検出と補正動作を示すフローチャートである。
符号の説明
100 撮像装置
101 イメージセンサ
102 前処理部
103 カメラ信号処理部
104 変換処理部
105 圧縮伸張部
106 メモリ制御部
107 メモリ
108 表示処理部
109 圧縮伸張部
110 記録デバイス制御部
111 記録デバイス
112 表示部
113 制御部
114 撮像レンズ

Claims (5)

  1. 画像信号の信号特性に基づいて、画像データから少なくとも一部の画像信号を抽出する画像信号抽出部と、
    前記抽出された画像信号を検出対象とし、前記画像信号の輝度値に基づいて、前記検出対象から前記画像データによる画像内のエッジ部分を検出するエッジ検出部と、
    前記画像内の基準位置からの距離に応じて、前記画像信号内に含まれる少なくとも2つの色成分について相関を算出し、色ずれ量を検出する色ずれ量検出部と、
    を有する、画像処理装置。
  2. 前記画像信号抽出部は、
    前記画像信号の輝度値が飽和レベル又は飽和レベル近傍であるか否かを判断する判断部と、
    前記飽和レベル又は飽和レベル近傍であると判断された前記画像信号以外の前記画像信号を抽出する第1の抽出部と
    を有する、請求項1に記載の画像処理装置。
  3. 前記画像信号抽出部は、
    前記画像信号が前記画像内の基準位置から位置する距離を算出する距離算出部と、
    前記距離に応じて前記画像信号を抽出する第2の抽出部と
    を有する、請求項1又は2に記載の画像処理装置。
  4. 前記エッジ検出部は、
    前記画像データに含まれる全て又は少なくとも一部の前記画像信号の輝度値に基づいてエッジ検出に関する閾値を算出する閾値算出部を有し、
    前記閾値に基づいて前記画像データによる画像内のエッジ部分を検出する、請求項1〜3のいずれかに記載の画像処理装置。
  5. 画像信号の信号特性に基づいて、画像データから少なくとも一部の画像信号を抽出するステップと、
    前記抽出された画像信号を検出対象とし、前記画像信号の輝度値に基づいて、前記検出対象から前記画像データによる画像内のエッジ部分を検出するステップと、
    前記画像内の基準位置からの距離に応じて、前記画像信号内に含まれる少なくとも2つの色成分について相関を算出し、色ずれ量を検出するステップと、
    を有する、画像処理方法。
JP2008208038A 2008-08-12 2008-08-12 画像処理装置及び画像処理方法 Expired - Fee Related JP4730412B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008208038A JP4730412B2 (ja) 2008-08-12 2008-08-12 画像処理装置及び画像処理方法
US12/496,195 US8436910B2 (en) 2008-08-12 2009-07-01 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008208038A JP4730412B2 (ja) 2008-08-12 2008-08-12 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2010045588A true JP2010045588A (ja) 2010-02-25
JP4730412B2 JP4730412B2 (ja) 2011-07-20

Family

ID=41681077

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008208038A Expired - Fee Related JP4730412B2 (ja) 2008-08-12 2008-08-12 画像処理装置及び画像処理方法

Country Status (2)

Country Link
US (1) US8436910B2 (ja)
JP (1) JP4730412B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011239305A (ja) * 2010-05-12 2011-11-24 Canon Inc 画像処理装置及び画像処理方法及びプログラム
JP2012070053A (ja) * 2010-09-21 2012-04-05 Canon Inc 画像処理装置、撮像装置、その倍率色収差補正方法、及び倍率色収差補正プログラム、並びに記録媒体
JP2012191607A (ja) * 2011-02-21 2012-10-04 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP2012234484A (ja) * 2011-05-09 2012-11-29 Canon Inc 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP2013074437A (ja) * 2011-09-27 2013-04-22 Canon Inc 撮像装置、及びその制御方法
WO2013099792A1 (ja) 2011-12-28 2013-07-04 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
US8861852B2 (en) 2011-05-09 2014-10-14 Canon Kabushiki Kaisha Image processing method for image restoration, image processing apparatus and image pickup apparatus

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011097541A (ja) * 2009-11-02 2011-05-12 Sony Corp 固体撮像素子、カメラシステム、固体撮像素子の読み出し方法、およびプログラム
US8508545B2 (en) * 2010-05-13 2013-08-13 Varian Medical Systems, Inc. Method and apparatus pertaining to rendering an image to convey levels of confidence with respect to materials identification
US8477394B2 (en) * 2010-08-05 2013-07-02 Conexant Systems, Inc. Systems and methods for color defringing
US9041815B2 (en) 2010-10-11 2015-05-26 Apple Inc. Digital camera imaging evaluation module
WO2012086127A1 (ja) * 2010-12-20 2012-06-28 パナソニック株式会社 画像処理装置、撮像装置、及び画像処理方法
JP5552078B2 (ja) * 2011-02-28 2014-07-16 株式会社メガチップス 符号化装置
ES2542106T3 (es) * 2011-04-12 2015-07-30 Tripath Imaging, Inc. Método para preparar videomicroscopía cuantitativa y sistema asociado
WO2015104969A1 (ja) * 2014-01-09 2015-07-16 ソニー株式会社 映像信号処理装置、映像信号処理方法およびカメラ装置
JP6327922B2 (ja) * 2014-04-25 2018-05-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
KR102406215B1 (ko) 2016-02-17 2022-06-08 삼성전자주식회사 컬러 프린지 보정 방법 및 이를 이용한 이미지 데이터의 프로세싱 방법
JP6459012B1 (ja) * 2017-10-30 2019-01-30 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、飛行体、制御方法、及びプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1155695A (ja) * 1997-05-16 1999-02-26 Matsushita Electric Ind Co Ltd レジストレーション誤差および色収差を測定する方法および装置
JP2000299874A (ja) * 1999-04-12 2000-10-24 Sony Corp 信号処理装置及び方法並びに撮像装置及び方法
JP2002503894A (ja) * 1997-12-08 2002-02-05 インテル・コーポレーション 新しいエッジ検出に基づくノイズ除去アルゴリズム
WO2005101854A1 (ja) * 2004-04-12 2005-10-27 Nikon Corporation 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ
JP2006020275A (ja) * 2004-05-31 2006-01-19 Nikon Corp Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ
JP2007202128A (ja) * 2005-12-26 2007-08-09 Matsushita Electric Ind Co Ltd 撮像装置および画像データ補正方法
JP2008147981A (ja) * 2006-12-08 2008-06-26 Canon Inc 画像処理装置及び撮像装置及び画像処理方法及びプログラム及び記憶媒体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4991021A (en) * 1988-06-22 1991-02-05 Nec Corporation Digital video signal compensation circuit
KR950002658B1 (ko) * 1992-04-11 1995-03-24 주식회사금성사 영상신호의 압축 부호화 및 복호화장치
US7563748B2 (en) 2003-06-23 2009-07-21 Cognis Ip Management Gmbh Alcohol alkoxylate carriers for pesticide active ingredients
US7454053B2 (en) * 2004-10-29 2008-11-18 Mitutoyo Corporation System and method for automatically recovering video tools in a vision system
US7577311B2 (en) * 2005-05-03 2009-08-18 Eastman Kodak Company Color fringe desaturation for electronic imagers

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1155695A (ja) * 1997-05-16 1999-02-26 Matsushita Electric Ind Co Ltd レジストレーション誤差および色収差を測定する方法および装置
JP2002503894A (ja) * 1997-12-08 2002-02-05 インテル・コーポレーション 新しいエッジ検出に基づくノイズ除去アルゴリズム
JP2000299874A (ja) * 1999-04-12 2000-10-24 Sony Corp 信号処理装置及び方法並びに撮像装置及び方法
WO2005101854A1 (ja) * 2004-04-12 2005-10-27 Nikon Corporation 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ
JP2006020275A (ja) * 2004-05-31 2006-01-19 Nikon Corp Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ
JP2007202128A (ja) * 2005-12-26 2007-08-09 Matsushita Electric Ind Co Ltd 撮像装置および画像データ補正方法
JP2008147981A (ja) * 2006-12-08 2008-06-26 Canon Inc 画像処理装置及び撮像装置及び画像処理方法及びプログラム及び記憶媒体

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011239305A (ja) * 2010-05-12 2011-11-24 Canon Inc 画像処理装置及び画像処理方法及びプログラム
JP2012070053A (ja) * 2010-09-21 2012-04-05 Canon Inc 画像処理装置、撮像装置、その倍率色収差補正方法、及び倍率色収差補正プログラム、並びに記録媒体
JP2012191607A (ja) * 2011-02-21 2012-10-04 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP2012234484A (ja) * 2011-05-09 2012-11-29 Canon Inc 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
US8861852B2 (en) 2011-05-09 2014-10-14 Canon Kabushiki Kaisha Image processing method for image restoration, image processing apparatus and image pickup apparatus
JP2013074437A (ja) * 2011-09-27 2013-04-22 Canon Inc 撮像装置、及びその制御方法
WO2013099792A1 (ja) 2011-12-28 2013-07-04 富士フイルム株式会社 画像処理装置及び方法並びに撮像装置
US9325957B2 (en) 2011-12-28 2016-04-26 Fujifilm Corporation Image processing device, method, recording medium and imaging device

Also Published As

Publication number Publication date
JP4730412B2 (ja) 2011-07-20
US20100039539A1 (en) 2010-02-18
US8436910B2 (en) 2013-05-07

Similar Documents

Publication Publication Date Title
JP4730412B2 (ja) 画像処理装置及び画像処理方法
US8150201B2 (en) Image processing apparatus, method, and computer program with pixel brightness-change detection and value correction
JP4337857B2 (ja) 画像データのノイズ処理方法及びノイズ処理装置並びに撮像装置
US8363131B2 (en) Apparatus and method for local contrast enhanced tone mapping
US8922680B2 (en) Image processing apparatus and control method for image processing apparatus
TWI542224B (zh) 影像訊號處理方法以及影像訊號處理裝置
US9367902B2 (en) Image processing device, endoscope apparatus, isolated point noise correction method, and information storage device
JP6312487B2 (ja) 画像処理装置及びその制御方法、並びに、プログラム
JP2008015946A (ja) 画像処理装置及び画像処理方法
JP2013219705A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP4539432B2 (ja) 画像処理装置および撮像装置
JP2018093257A (ja) 撮像装置
US8189066B2 (en) Image processing apparatus, image processing method, and computer-readable medium
JP2013017142A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2012199774A (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
US11159740B2 (en) Image capturing device and control method thereof and medium
JP5262953B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2010219683A (ja) 画像処理装置、画像処理方法及びプログラム
JP2006238060A (ja) 画像処理装置およびこの画像処理装置を備えたデジタルカメラ
JP2012095341A (ja) 撮像装置
JP5631769B2 (ja) 画像処理装置
JP2010178226A (ja) 撮像装置、色収差抑制方法、色収差抑制回路及びプログラム
JP2011114473A (ja) 画素欠陥補正装置
JP6041523B2 (ja) 画像処理装置及び方法
JP5159647B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100805

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110404

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees