JP2008160730A - 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法 - Google Patents

信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法 Download PDF

Info

Publication number
JP2008160730A
JP2008160730A JP2006350070A JP2006350070A JP2008160730A JP 2008160730 A JP2008160730 A JP 2008160730A JP 2006350070 A JP2006350070 A JP 2006350070A JP 2006350070 A JP2006350070 A JP 2006350070A JP 2008160730 A JP2008160730 A JP 2008160730A
Authority
JP
Japan
Prior art keywords
slope
image
image data
image processing
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006350070A
Other languages
English (en)
Inventor
Hideyasu Kuniba
英康 国場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2006350070A priority Critical patent/JP2008160730A/ja
Priority to PCT/JP2007/001443 priority patent/WO2008081574A1/ja
Priority to US12/312,610 priority patent/US8619165B2/en
Publication of JP2008160730A publication Critical patent/JP2008160730A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】 撮像素子に起因する複雑な信号ムラを除去する
【解決手段】 本発明の画像処理装置は、画像取得部、スロープ生成部、およびスロープ修正部を備える。画像取得部は、撮像素子で生成される画像データを取り込む。スロープ生成部は、撮像素子の製造工程に起因して画像データに生じる信号ムラを、スロープ状に修正するスロープ補正データを生成する。スロープ修正部は、スロープ補正データを用いて画像データ中の信号ムラを修正する。
【選択図】 図1

Description

本発明は、画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法に関する。
デジタル一眼レフカメラには、素子サイズの大きな撮像素子が搭載される。この種の撮像素子は、半導体の製造設備(ステッパーなど)の関係から、一度に可能なフォトリソ工程のサイズが制限される。そのため、撮像素子の製造工程では、必要に応じて露光領域をずらしながら、複数回に分けて分割露光が実施される。この複数回の分割露光を施した撮像素子は、分割露光の領域ごとに特性がばらつく可能性がある。この特性バラツキによって、撮像素子が生成する画像データには信号ムラが発生する。
この種の信号ムラを補正する技術として、特許文献1が知られている。この従来技術では、分割露光の境界線に対して直交する画素方向に対して、同一の補正値を一律に乗算することで、境界線に生じる信号段差を補正する(例えば、特許文献1の図3)。
特開2004-112423号公報
ところで、画像データには、分割露光の境界に生じる信号段差や、撮像領域の周縁部に生じるスロープ変化などが複雑に重畳する。
上述した従来技術では、特定の画素方向に対し補正値を一律に乗算する。そのため、特定の画素方向に変化する信号ムラを除去できず、信号ムラを実用的に除去することが難しい。
そこで、本発明は、撮像素子に起因する複雑な信号ムラを実用的に除去することを目的とする。
《1》 本発明の画像処理装置は、画像取得部、スロープ生成部、およびスロープ修正部を備える。
画像取得部は、撮像素子で生成される画像データを取り込む。
スロープ生成部は、撮像素子の製造工程に起因して画像データに生じる信号ムラを、スロープ状波形で修正するスロープ補正データを生成する。
スロープ修正部は、このスロープ補正データを用いて画像データ中の信号ムラを修正する。
《2》 また好ましくは、スロープ生成部は、信号ムラの生じている画像領域を複数のブロックに分割し、これらブロックの代表点位置の補正情報を記憶する。スロープ生成部は、代表点位置の補正情報を内挿演算することにより、スロープ補正データを生成する。
《3》 画像データには、撮像素子の製造時における分割露光の境界に起因して、画像データに信号段差が生じる場合がある。この場合、スロープ生成部は、スロープ補正データとして、信号段差をスロープ状に収束するデータを生成することが好ましい。スロープ修正部は、このスロープ補正データを用いて信号段差をなだらかなスロープ変化に修正できる。
《4》 画像データには、撮像素子の製造工程に起因して、画像データの周縁部にスロープ変化が生じる場合がある。この場合、スロープ生成部は、スロープ補正データとして、このスロープ変化を打ち消すデータを生成することが好ましい。スロープ修正部は、このスロープ補正データを用いて周縁部のスロープ変化を修正できる。
《5》 画像データには、撮像素子の製造時の分割露光に起因して、分割露光の領域別にカラーシェーディングが生じる。
そこで、《1》〜《4》のいずれか1項に記載の画像処理装置において、領域別記憶部、および領域別除去部を更に備えることが好ましい。
領域別記憶部は、分割露光によって領域別に生じるカラーシェーディングを記憶する。
領域別除去部は、この領域別のカラーシェーディングを、画像データから除去する。
《6》 本発明の別の画像処理装置は、画像取得部、領域別記憶部、および領域別除去部を備える。
画像取得部は、撮像素子で生成される画像データを取り込む。
領域別記憶部は、撮像素子の製造時の分割露光に起因する領域別のカラーシェーディングを記憶する。
領域別除去部は、領域別のカラーシェーディングを、画像データから除去する。
《7》 本発明の較正方法は、《1》〜《5》のいずれか1項に記載の画像処理装置を較正する方法であって、次のステップを備える。
(1) 撮像素子は、複数回の分割露光によって製造された撮像素子である。この撮像素子で一様な光を光電変換してテスト用画像データを生成する。
(2) テスト用画像データを分割露光の領域別に区分し、領域別画像をカラーシェーディングの信号パターンにフィッティングする。このフィッティング結果から、領域別のカラーシェーディングを検出する。
(3) 領域別のカラーシェーディングを、テスト用画像データから除去する。
(4) 領域別のカラーシェーディングを除去したテスト用画像データに残存する信号ムラを検出する。
(5) 信号ムラを示す補正情報を求めて、スロープ生成部に設定するステップ
《8》 本発明の撮像装置は、《1》〜《6》のいずれか1項に記載の画像処理装置と、被写体を撮像素子で光電変換して画像データを生成する撮像部とを備える。この画像処理装置は、撮像部で生成される画像データを処理する。
《9》 本発明の画像処理プログラムは、コンピュータを、《1》〜《6》のいずれか1項に記載の画像処理装置として機能させるためのプログラムである。
《10》 本発明の画像処理方法は、下記のステップを備える。
(1) 撮像素子で生成される画像データを取り込むステップ
(2) 撮像素子の製造工程に起因して画像データに生じる信号ムラを、スロープ状波形で修正するスロープ補正データを生成するステップ
(3) スロープ補正データを用いて画像データ中の信号ムラを修正するステップ
本発明では、スロープ状に変化して収束する補正データ(スロープ補正データ)を使用する。このスロープ補正データ1つ1つは波及範囲が限られるため、スロープ補正データを局所的に配置することで、2次元的に複雑に発生する信号ムラを柔軟に修正できる。
《実施形態の構成》
図1は、本実施形態の撮像装置11を示すブロック図である。
図1において、撮像装置11は、撮像部12、画像処理装置13、および記録部14を備えて概略構成される。
この撮像部12には、撮像素子12aが搭載される。この撮像素子12aの素子サイズは、一度に可能なフォトリソ工程の露光サイズを上回る。そのため、撮像素子12aの製造工程では、図2に示すように、露光領域Z0〜Z3をずらしながら、撮像域を4回に分けて分割露光が実施される。ここでの分割露光は、半導体層、カラーフィルタ層、およびマイクロレンズ層の少なくとも一つを製造する際の分割露光である。
さらに、画像処理装置13は、下記の構成を備える。
(1)画像取得部21…撮像部12から出力される画像データを取り込む。
(2)領域別記憶部22…撮像素子12aのカラーシェーディングを、露光領域Z0〜Z3の領域別に記憶する。
(3)領域別除去部23…画像データからカラーシェーディングを除去する。
(4)スロープ生成部24…画像データの信号ムラ(信号段差やスロープ変化など)を修正するためのスロープ補正データを生成する。
(5)スロープ修正部25…スロープ補正データを用いて、画像データ中の信号ムラを修正する。
《画像処理装置13の較正方法》
撮像素子12aには、製造工程に起因して画像データに信号ムラが生じる。この信号ムラは、個々の撮像素子12aごとにばらつくため、個体差を生じる。このような個体差に対応するため、撮像装置11ごとに画像処理装置13を個別に較正することが好ましい。
図3は、この画像処理装置13の較正手順を示す流れ図である。この較正手順は、較正者(工場出荷時の調整者、ユーザーなど)によって実施される。なお、制御部を撮像装置11に搭載し、この制御部が下記の較正手順を実行してもよい。
以下、図3に示すステップ番号に沿って、この較正手順を説明する。
ステップS1: 撮像部12を用いて予め定められたテストチャートを撮影し、テスト用画像データを得る。なお、テスト用画像データに複雑な画像情報が含まれると、信号ムラの検出が困難になるため、テスト用画像データの生成時には、一様な階調の白色(灰色)面を撮影することが好ましい。
撮像部12内では、このテスト用画像データに対して、次の処理が施される。
(1)撮像素子12aの読み出しチャンネル間に生じるゲイン差やラインクロールの補正
(2)撮像素子12aのオプチカルブラック出力(暗黒状態の画素の出力)を用いた、画像の黒レベル補正
(3)欠陥画素補正
(4)ホワイトバランス補正(RGB画素の感度差の補正も含む)
ステップS2: 撮影レンズの光学特性などに起因して、画像データにはレンズシェーディングが生じる。この撮影レンズの光学特性を除くため、テスト用画像データからレンズシェーディングを除去することが好ましい。
撮影レンズのレンズシェーディングが予め実測済みの場合には、このレンズシェーディングの実測データをテスト用画像データから除けばよい。
一方、撮影レンズのレンズシェーディングが未測定の場合には、次の手順によってテスト用画像データからレンズシェーディングを除くことができる。
(1)テスト用画像データから輝度成分を算出して、輝度画像を生成する。
(2)輝度画像を、例えば30画素×20画素に縮小し、縮小画像を生成する。
(3)縮小画像の輝度最大値Ymaxを求める。
(4)縮小画像をレンズシェーディングの近似式にフィッティングする。通常のレンズシェーディングは、撮影レンズの光軸中心に対して点対称を示す近似曲面f(x,y)の式を用いてフィッティングすることができる。
なお、撮影レンズが、屈曲光学系、チルト光学系のように特殊なレンズの場合には、より一般的な[1]式を用いてレンズシェーディングをフィッティングすることができる。
Figure 2008160730
ただし、(x,y)は画素空間の座標位置である。
(5)テスト用画像データの画素値Zoを下式に代入し、レンズシェーディングを除去した画素値Z1を求める。
Figure 2008160730
ただし、Wはテスト用画像データの横画素数であり、Hはテスト用画像データの縦画素数である。
ステップS3: レンズシェーディングを除去したテスト用画像データに、必要に応じて色補間処理を実施し、画素単位にRGB成分を揃えたRGB画像に変換する。
このRGB画像を、図2に示す露光領域Z0〜Z3に合わせて区画し、下記の画素数サイズの領域別画像Mi(i=0〜3)に分割する。
領域別画像M0:横500画素 ×縦2500画素
領域別画像M1:横1500画素×縦2500画素
領域別画像M2:横1500画素×縦2500画素
領域別画像M3:横500画素 ×縦2500画素
ステップS4: 次に、領域別画像Mi(i=0〜3)を、高域ノイズの除去と、フィッティング計算量の削減とを目的として、下記の画素数サイズに解像度変換する。
領域別画像M0の縮小画像:横55画素×縦57画素
領域別画像M1の縮小画像:横63画素×縦57画素
領域別画像M2の縮小画像:横63画素×縦57画素
領域別画像M3の縮小画像:横55画素×縦57画素
この領域別画像Miの縮小画像からRGB値の最大値Vmaxをそれぞれ求める。この最大値Vmaxを基準にして、領域別画像Miの縮小画像の画素値(Ri,Gi,Bi)の逆数を1以上の数値に正規化し、領域別のシェーディング補正マップSi(i=0〜3)を求める。
Si(x,y)=[Vmax/Ri(x,y),Vmax/Gi(x,y),Vmax/Bi(x,y)]
次に、領域別のシェーディング補正マップSi(i=0〜3)をRGB成分ごとに、上述の[1]式が示す近似曲面にフィッティングし、係数k1〜k10を求める。
この係数k1〜k10は、縮小画像の画素数サイズの近似曲面を表す。そこで、この近似曲面を領域別画像Miの画素数サイズに拡大するように、係数k1〜k10の値を換算する。
ステップS5: 換算後の係数k1〜k10を、領域別記憶部22の内部レジスタに設定する。なお、内部レジスタに設定可能な数値範囲を超える大きな係数値については、[1]式からその係数項を制限または省いて再度フィッティングを行う。このような処理により、全ての係数k1〜k10を領域別記憶部22の内部レジスタに設定することができる。
ステップS6: ステップS5で領域別記憶部22に設定した係数k1〜k10を用いて、領域別のシェーディング補正マップSi(i=0〜3)の近似曲面を求める。
レンズシェーディングを除去したテスト用画像データに対し、領域別の近似曲面が示すRGB成分の補正係数を乗算する。この処理により、テスト用画像データから領域別のカラーシェーディングを除去することができる。
ステップS7: ステップS6で修正されたテスト用画像データから、露光領域Z0〜Z3の境界D01,D12,D23に生じる信号段差を検出し、ステッチ補正係数を求める(図4参照)。
例えば、境界D01,D12,D23に沿ってS=2m(ただしmは自然数)おきにサンプリング点を設定する。このサンプリング点ごとに、縦横r(例えばr=20)画素の局所領域を設定する(図5参照)。この局所領域の境界左側においてR,Gr,Gb,B成分の左側平均値をそれぞれ求める。同様に、この局所領域の境界右側においてR,Gr,Gb,B成分の右側平均値をそれぞれ求める。なお、ここでのGr成分は、R画素行に存在するG画素の出力成分である。また、Gb画素は、B画素行に存在するG画素の出力成分である。
次に、サンプリング点ごとに信号段差の左右比率を計算し、ステッチ補正係数とする。
R成分のステッチ補正係数=(R成分の左側平均値)/(R成分の右側平均値)
Gr成分のステッチ補正係数=(Gr成分の左側平均値)/(Gr成分の右側平均値)
Gb成分のステッチ補正係数=(Gb成分の左側平均値)/(Gb成分の右側平均値)
B成分のステッチ補正係数=(B成分の左側平均値)/(B成分の右側平均値)
なお、ここでは境界右側を乗算で補正することを想定して、左側平均値を分子、右側平均値を分母とするステッチ補正係数を求めている。そのため、図4の境界D23のように、境界左側を乗算で補正する場合には、右側平均値を分子、左側平均値を分母として、ステッチ補正係数を求めることが好ましい。
ステップS8: ステップS7で求めたステッチ補正係数を、スロープ生成部24の内部レジスタに設定する。
ステップS9: サンプリング点ごとに、ステップS7で求めたステッチ補正係数を所定幅Wzで1に収束させるスロープ変化を生成する。この所定幅Wzは、信号段差がなだらかに変化して目立たなくなる程度の幅にすればよい。このスロープ変化を、境界線方向に補間することにより、スロープ補正データを生成する。
このスロープ補正データを境界D01,D12,D23の片側または両側に乗算することにより、テスト画像データの信号段差をなだらかなスロープ変化に修正する。
ステップS10: ステップS9で修正されたテスト用画像データから、周縁部のスロープ変化を検出する。
例えば、テスト用画像データから、図6に示すように中央部のRGB成分を抽出し、その平均値(R0,G0,B0)を算出する。
次に、テスト用画像データの上辺から中央部に向かって、図6に示すように、16画素程度の間隔で矩形域を複数設定する。そして、これらの矩形域ごとにRGB成分の平均値[R(i),G(i),B(i)]を算出する(例えばi=0,1,2…31)。
この[R(i),G(i),B(i)]を下式に代入して、上辺におけるスロープ変化のゲイン比をそれぞれ計算する。
R(i)=R0/R(i)
G(i)=G0/G(i)
B(i)=B0/B(i)
次に、最外周のゲイン比gR(0),gG(0),gB(0)を比較し、最も大きなスロープ変化を示す色成分を決定する。決定された色成分のゲイン比g(i)をiが小さい方から順に調べて、|g(i)-1|≦|g(0)-1|/2を満足するiを探す。このiに基づいて、2n>(i×16)を満足する最小のnを求め、上辺のスロープ変化の実効幅W1=2nを決定する。なお、2n<(i×16)を満足する最大のnを求め、スロープ変化の実効幅W1=2nとしてもよい。
上記と同様の処理を、テスト用画像データの左辺、下辺、および右辺についても実施し、それぞれの実効幅W2,W3,W4を求める。
このように求めた実効幅W1〜W4に従って、テスト用画像データをブロック区分することにより、図7に示す白丸および黒丸のサンプリング点を決定する。これらサンプリング点それぞれについて、スロープ変化のゲイン比(R0/R,G0/G,B0/B)を算出する。
ステップS11: ステップS10で求めたサンプリング点ごとにゲイン比(gR,gG,gB)を、額縁補正係数としてスロープ生成部24の内部レジスタに設定する。
《画像処理装置13の動作》
図8は、画像処理装置13による画像データの処理を説明する流れ図である。以下、図8に示すステップ番号に沿って、この処理動作を説明する。
ステップS21: 画像取得部21は、撮像部12から出力される画像データを取り込み、内部メモリ上に格納する。
ステップS22: 領域別記憶部22は、ステップS5で領域別記憶部22に設定された係数k1〜k10を[1]式に代入して、領域別のシェーディング補正マップSi(i=0〜3)の近似曲面を生成する。
ステップS23: 領域別除去部23は、画像データのRGB成分に対して、領域別の近似曲面が示すRGB成分の補正係数を乗算する。この処理により、画像データに含まれる露光領域Z0〜Z3ごとの領域別カラーシェーディングが削減される。
ステップS24: ステップS8でスロープ生成部24に設定されたステッチ補正係数を所定幅Wzで1に収束させるスロープ変化をサンプリング点(図4参照)ごとに生成する。このスロープ変化を、境界線方向に補間することにより、スロープ補正データを生成する。
ステップS25: スロープ修正部25は、このスロープ補正データを、画像データの境界D01,D12,D23の片側または両側に乗算することにより、画像データの信号段差をなだらかなスロープ変化に修正する。
ステップS26: スロープ生成部24は、額縁補正係数に基づいて、コーナー領域/垂直辺/水平辺に分けて、画像データの周縁部のスロープ変化を打ち消すスロープ補正データを生成する。
(1)コーナー領域
図9[A]に示すように、画像データのコーナー領域(横Wi画素×縦Wj画素)の頂点には、R成分に関するゲイン比gR0〜gR3が設定される。スロープ生成部24は、これらのゲイン比gR0〜gR3を下式に代入することにより、コーナー領域のスロープ補正データkR(x,y)を算出する。
Figure 2008160730
上式中の(x,y)は、コーナー領域の左上を原点とする相対座標である。
上記と同様の処理を、GB成分についても実施し、コーナー領域のスロープ補正データkG(x,y),kB(x,y)を算出する。
(2)水平辺
図9[B]に示すように、水平辺の部分領域(横S2画素×縦Wj画素)の頂点には、R成分に関するゲイン比gR0〜gR3が設定される。スロープ生成部24は、これらのゲイン比gR0〜gR3を下式に代入することにより、水平辺の部分領域のスロープ補正データkR(x,y)を算出する。
Figure 2008160730
上式中の(x,y)は、部分領域の左上を原点とする相対座標である。
上記と同様の処理を、GB成分についても実施し、水平辺の部分領域のスロープ補正データkG(x,y),kB(x,y)を算出する。
(3)垂直辺
図9[C]に示すように、垂直辺の部分領域(横Wi画素×縦S1画素)の頂点には、R成分に関するゲイン比gR0〜gR3が設定される。スロープ生成部24は、これらのゲイン比gR0〜gR3を下式に代入することにより、垂直辺の部分領域のスロープ補正データkR(x,y)を算出する。
Figure 2008160730
上式中の(x,y)は、部分領域の左上を原点とする相対座標である。
上記と同様の処理を、GB成分についても実施し、垂直辺の部分領域のスロープ補正データkG(x,y),kB(x,y)を算出する。
ステップS27: スロープ修正部25は、ステップS26で求めたスロープ補正データを、画像データの周縁部のRGB成分に乗算することにより、周縁部のスロープ変化を修正する。
上述した処理を完了した画像データは、記録部14によって不図示の記録媒体に記録される。
《本実施形態の効果など》
本実施形態では、撮像素子12aを製造する際の分割露光によって生じる信号段差を、なだらかなスロープ変化に修正する。この場合、画像データの修正範囲は、スロープ変化の幅に限定されるため、修正の影響は広範囲に及ばない。
また、本実施形態では、撮像素子12aの周縁部に起因するスロープ変化を、スロープ状の補正データで打ち消す。この場合も、画像データの修正範囲は、周縁部に限定される。
このように、本実施形態では、スロープ状の補正データを局所的に組み合わせることによって、2次元的に複雑に発生する信号ムラを柔軟に修正することが可能になる。
さらに、本実施形態では、テスト用画像データに生じるカラーシェーディングを、分割露光の領域別に近似する。上述したように、分割露光の境界には不連続な信号段差が生じる。この不連続な信号段差の付近ではフィッティングが困難となり、カラーシェーディングを忠実に近似できない。しかし、本実施形態では、このカラーシェーディングを分割露光の領域に分けて近似する。そのため、個々の露光領域Z0〜Z3は不連続箇所を含まず、カラーシェーディングをより忠実に近似できる。その結果、本実施形態では、画像データに重畳するカラーシェーディングを一段と正確に除去することが可能になる。
また、本実施形態では、テスト用画像データから先に領域別のカラーシェーディングを除去する。そのため、テスト用画像データに残存する信号ムラ(信号段差やスロープ変化など)をより正確に検出することができる。その結果、この正確な信号ムラに合わせて、画像処理装置13を一段と正確に較正することが可能になる。
《実施形態の補足事項》
なお、上述した実施形態では、画像処理装置13を撮像装置11に搭載するケースについて説明した。しかしながら、本発明はこれに限定されるものではない。例えば、コンピュータおよび画像処理プログラム(図8参照)によって、本発明の画像処理装置をソフトウェア的に実現することができる。
また、上述した実施形態では、露光境界の信号段差と、周縁部のスロープ変化とを別々に除去している。しかしながら、本発明はこれに限定されるものではない。信号段差とスロープ変化は、どちらもスロープ状の補正データによって修正される。そのため、ステッチ補正係数と額縁補正係数とを統合してスロープ生成部24に設定することにより、両方のスロープ補正データを区別なく生成することができる。具体的には、ステッチ補正係数を、額縁補正係数と同様にブロックの頂点位置の係数値によって定義することが好ましい。
なお、双方の補正情報のブロックが重複する場合には、線形補間により補正情報を統合することが好ましい。例えば、図10に示すように、ステッチ補正係数a1〜a4のブロックと、額縁補正係数b1〜b4のブロックが一部重複するケースが生じる。この場合、図10に示す重複域(これもブロック)の頂点位置の係数値C1〜C4を、下式により新たに求めることができる。
Figure 2008160730
このような演算により、ブロックの重複域を新たなブロックに変換することにより、より複雑な信号ムラの補正情報を生成することが可能になる。
なお、撮影レンズの光学特性と撮像素子12aとの相乗作用によって、撮像素子12aに生じる信号ムラが変化する場合がある。この場合、撮影レンズの種類ごとに、補正情報(ステッチ補正係数や額縁補正係数、カラーシェーディング)を求めて画像処理装置13に設定してもよい。このような設定により、撮影レンズの種類に応じて、適切な補正情報を選択使用することができる。
また、撮影レンズの射出瞳位置や射出瞳径などの光学的条件ごとに、補正情報(ステッチ補正係数や額縁補正係数、カラーシェーディング)を求めて画像処理装置13に設定してもよい。このような設定により、撮影レンズの光学的条件に応じて、適切な補正情報を選択使用することができる。
さらに、シフトレンズやチルトレンズなどの撮影レンズの場合には、シフト量やチルト量ごとに、補正情報(ステッチ補正係数や額縁補正係数、カラーシェーディング)を求めて画像処理装置13に設定してもよい。このような設定により、撮影レンズの光学的条件に応じて、適切な補正情報を選択使用することができる。
以上説明したように、本発明は、画像処理装置などに利用可能な技術である。
本実施形態の撮像装置11を示すブロック図である。 撮像素子12aの撮像域を示す図である。 画像処理装置13の較正手順を示す流れ図である。 画像データの信号段差を説明する図である。 画像データの信号段差を説明する図である。 画像データの周縁部のスロープ変化を説明する図である。 周縁部のブロック区分を説明する図である。 画像処理装置13の画像処理を説明する流れ図である。 ブロックの内挿処理を説明する図である。 ブロックの統合処理を説明する図である。
符号の説明
11…撮像装置,12…撮像部,12a…撮像素子,13…画像処理装置,14…記録部,21…画像取得部,22…領域別記憶部,23…領域別除去部,24…スロープ生成部,25…スロープ修正部

Claims (10)

  1. 撮像素子で生成される画像データを取り込む画像取得部と、
    前記撮像素子の製造工程に起因して前記画像データに生じる信号ムラを、スロープ状波形で修正するスロープ補正データを生成するスロープ生成部と、
    前記スロープ補正データを用いて前記画像データ中の前記信号ムラを修正するスロープ修正部と
    を備えたことを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記スロープ生成部は、前記信号ムラの生じている画像領域を複数のブロックに分割し、前記ブロックの代表点位置の補正情報を記憶し、前記代表点位置の補正情報を内挿演算することにより、前記スロープ補正データを生成する
    ことを特徴とする画像処理装置。
  3. 請求項1または請求項2に記載の画像処理装置において、
    前記スロープ生成部は、前記撮像素子の製造時における分割露光の境界に起因して、前記画像データに生じる信号段差をスロープ状に収束させるスロープ補正データを生成し、
    前記スロープ修正部は、前記スロープ補正データを用いて前記信号段差をなだらかなスロープ変化に修正する
    ことを特徴とする画像処理装置。
  4. 請求項1ないし請求項3のいずれか1項に記載の画像処理装置において、
    前記スロープ生成部は、前記撮像素子の撮像領域の周縁において前記画像データに重畳するスロープ変化を打ち消すスロープ補正データを生成し、
    前記スロープ修正部は、前記スロープ補正データを用いて前記スロープ変化を修正する
    ことを特徴とする画像処理装置。
  5. 請求項1ないし請求項4のいずれか1項に記載の画像処理装置において、
    前記撮像素子の製造時の分割露光に起因して、前記分割露光の領域別に生じるカラーシェーディングを記憶する領域別記憶部と、
    前記領域別のカラーシェーディングを、前記画像データから除去する領域別除去部と
    を更に備えたことを特徴とする画像処理装置。
  6. 撮像素子で生成される画像データを取り込む画像取得部と、
    前記撮像素子の製造時の分割露光に起因して、前記分割露光の領域別に生じるカラーシェーディングを記憶する領域別記憶部と、
    前記領域別のカラーシェーディングを、前記画像データから除去する領域別除去部と
    を備えたことを特徴とする画像処理装置。
  7. 請求項1ないし請求項5のいずれか1項に記載の画像処理装置の較正方法であって、
    前記撮像素子は、複数回の分割露光によって製造された撮像素子であり、
    前記撮像素子で一様な光を光電変換し、テスト用画像データを生成するステップと、
    前記テスト用画像データを前記分割露光の領域別に区分し、領域別画像をカラーシェーディングの信号パターンにフィッティングすることで、領域別のカラーシェーディングを検出するステップと、
    前記領域別のカラーシェーディングを、前記テスト用画像データから除去するステップと、
    前記領域別のカラーシェーディングを除去した前記テスト用画像データに残存する信号ムラを検出するステップと、
    前記信号ムラを示す補正情報を求め、前記補正情報を前記スロープ生成部に設定するステップと
    を備えたことを特徴とする画像処理装置の較正方法。
  8. 請求項1ないし請求項6のいずれか1項に記載の画像処理装置と、
    被写体を撮像素子で光電変換して画像データを生成する撮像部とを備え、
    前記画像処理装置は、前記撮像部で生成される前記画像データを処理する
    ことを特徴とする撮像装置。
  9. コンピュータを、請求項1ないし請求項6のいずれか1項に記載の画像処理装置として機能させるための画像処理プログラム。
  10. 撮像素子で生成される画像データを取り込むステップと、
    前記撮像素子の製造工程に起因して前記画像データに生じる信号ムラを、スロープ状波形で修正するスロープ補正データを生成するステップと、
    前記スロープ補正データを用いて前記画像データ中の前記信号ムラを修正するステップと
    を備えたことを特徴とする画像処理方法。
JP2006350070A 2006-12-26 2006-12-26 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法 Pending JP2008160730A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006350070A JP2008160730A (ja) 2006-12-26 2006-12-26 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法
PCT/JP2007/001443 WO2008081574A1 (ja) 2006-12-26 2007-12-20 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法
US12/312,610 US8619165B2 (en) 2006-12-26 2007-12-20 Image processing device for correcting signal irregularity, calibration method, imaging device, image processing program, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006350070A JP2008160730A (ja) 2006-12-26 2006-12-26 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法

Publications (1)

Publication Number Publication Date
JP2008160730A true JP2008160730A (ja) 2008-07-10

Family

ID=39588263

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006350070A Pending JP2008160730A (ja) 2006-12-26 2006-12-26 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法

Country Status (3)

Country Link
US (1) US8619165B2 (ja)
JP (1) JP2008160730A (ja)
WO (1) WO2008081574A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015198290A (ja) * 2014-03-31 2015-11-09 日本放送協会 スティッチング露光処理補正方法および撮像装置

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7442629B2 (en) 2004-09-24 2008-10-28 President & Fellows Of Harvard College Femtosecond laser-induced formation of submicrometer spikes on a semiconductor substrate
US7057256B2 (en) 2001-05-25 2006-06-06 President & Fellows Of Harvard College Silicon-based visible and near-infrared optoelectric devices
US9911781B2 (en) 2009-09-17 2018-03-06 Sionyx, Llc Photosensitive imaging devices and associated methods
US9673243B2 (en) 2009-09-17 2017-06-06 Sionyx, Llc Photosensitive imaging devices and associated methods
US8692198B2 (en) 2010-04-21 2014-04-08 Sionyx, Inc. Photosensitive imaging devices and associated methods
CN103081128B (zh) 2010-06-18 2016-11-02 西奥尼克斯公司 高速光敏设备及相关方法
US8736894B2 (en) * 2011-12-20 2014-05-27 Eastman Kodak Company Producing correction data for printer
US9496308B2 (en) 2011-06-09 2016-11-15 Sionyx, Llc Process module for increasing the response of backside illuminated photosensitive imagers and associated methods
US20130016203A1 (en) 2011-07-13 2013-01-17 Saylor Stephen D Biometric imaging devices and associated methods
US8848094B2 (en) * 2011-12-01 2014-09-30 Sony Corporation Optimal blur matching selection for depth estimation
US8736747B2 (en) 2012-01-13 2014-05-27 Sony Corporation Camera autofocus adaptive blur matching model fitting
JP2013171089A (ja) * 2012-02-17 2013-09-02 Toshiba Corp 音声補正装置、方法、及びプログラム
US9064764B2 (en) 2012-03-22 2015-06-23 Sionyx, Inc. Pixel isolation elements, devices, and associated methods
US20140152844A1 (en) * 2012-09-21 2014-06-05 Sionyx, Inc. Black level calibration methods for image sensors
KR20150130303A (ko) 2013-02-15 2015-11-23 사이오닉스, 아이엔씨. 안티 블루밍 특성 및 관련 방법을 가지는 높은 동적 범위의 cmos 이미지 센서
WO2014151093A1 (en) 2013-03-15 2014-09-25 Sionyx, Inc. Three dimensional imaging utilizing stacked imager devices and associated methods
US9209345B2 (en) 2013-06-29 2015-12-08 Sionyx, Inc. Shallow trench textured regions and associated methods
US9300888B2 (en) * 2013-10-03 2016-03-29 Amlogic Co., Ltd. Methods and systems for lens shading correction
JP6425264B2 (ja) * 2015-02-26 2018-11-21 Necディスプレイソリューションズ株式会社 色変換データ生成装置、色変換データ生成方法、及び表示装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003169255A (ja) * 2001-11-30 2003-06-13 Sony Corp シェーディング補正方法
JP2004048320A (ja) * 2002-07-11 2004-02-12 Fuji Photo Film Co Ltd 固体電子撮像装置の補正装置
JP2005175145A (ja) * 2003-12-10 2005-06-30 Canon Inc 固体撮像素子の補正方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7408576B2 (en) * 2002-08-16 2008-08-05 Zoran Corporation Techniques for modifying image field data as a function of radius across the image field
JP4115220B2 (ja) * 2002-09-19 2008-07-09 キヤノン株式会社 撮像装置
JP2005341033A (ja) * 2004-05-25 2005-12-08 Konica Minolta Photo Imaging Inc 撮像装置及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003169255A (ja) * 2001-11-30 2003-06-13 Sony Corp シェーディング補正方法
JP2004048320A (ja) * 2002-07-11 2004-02-12 Fuji Photo Film Co Ltd 固体電子撮像装置の補正装置
JP2005175145A (ja) * 2003-12-10 2005-06-30 Canon Inc 固体撮像素子の補正方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015198290A (ja) * 2014-03-31 2015-11-09 日本放送協会 スティッチング露光処理補正方法および撮像装置

Also Published As

Publication number Publication date
US20100053382A1 (en) 2010-03-04
WO2008081574A1 (ja) 2008-07-10
US8619165B2 (en) 2013-12-31

Similar Documents

Publication Publication Date Title
JP2008160730A (ja) 信号ムラを修正する画像処理装置、較正方法、撮像装置、画像処理プログラム、および画像処理方法
JP4700445B2 (ja) 画像処理装置および画像処理プログラム
JP5399739B2 (ja) 画像処理装置
JP6004221B2 (ja) 画像処理装置
US8736683B2 (en) Method for estimating a defect in an image-capturing system, and associated systems
EP1447977A1 (en) Vignetting compensation
JP2013219705A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP6312487B2 (ja) 画像処理装置及びその制御方法、並びに、プログラム
WO2006048962A1 (ja) 画素信号処理装置及び画素信号処理方法
JP5141245B2 (ja) 画像処理装置、補正情報生成方法、および撮像装置
JP2009284424A (ja) 撮像装置、撮像方法及びプログラム
JPWO2005043891A1 (ja) 画像補正方法および撮像装置
JP2013066157A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP4717371B2 (ja) 画像処理装置および画像処理プログラム
JP2004320128A (ja) 欠陥画素補正装置
WO2009141403A1 (en) Correction of optical lateral chromatic aberration in digital imaging systems
JP2006292582A (ja) マルチバンド画像処理装置及びその方法並びにマルチバンド画像撮像装置
JP4579570B2 (ja) シェーディング処理方法
JP6453193B2 (ja) ステレオカメラ装置
JP2012049947A5 (ja)
JP2010178226A (ja) 撮像装置、色収差抑制方法、色収差抑制回路及びプログラム
JP2019075658A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、撮像装置の制御方法、およびプログラム
JP6086829B2 (ja) 画像処理装置及び画像処理方法
JP4958672B2 (ja) 撮像装置及びその制御方法
JP4105942B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120712

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120911