JP2013061925A - 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置 - Google Patents

画像処理プログラム、画像処理方法、画像処理装置及び撮像装置 Download PDF

Info

Publication number
JP2013061925A
JP2013061925A JP2011250310A JP2011250310A JP2013061925A JP 2013061925 A JP2013061925 A JP 2013061925A JP 2011250310 A JP2011250310 A JP 2011250310A JP 2011250310 A JP2011250310 A JP 2011250310A JP 2013061925 A JP2013061925 A JP 2013061925A
Authority
JP
Japan
Prior art keywords
image
transfer function
function information
optical transfer
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011250310A
Other languages
English (en)
Other versions
JP5361976B2 (ja
Inventor
Takeshi Watanabe
武史 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011250310A priority Critical patent/JP5361976B2/ja
Priority to CN201210298555.XA priority patent/CN102957845B/zh
Priority to US13/591,419 priority patent/US8749659B2/en
Publication of JP2013061925A publication Critical patent/JP2013061925A/ja
Application granted granted Critical
Publication of JP5361976B2 publication Critical patent/JP5361976B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/615Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4" involving a transfer function modelling the optical system, e.g. optical transfer function [OTF], phase transfer function [PhTF] or modulation transfer function [MTF]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】様々な撮影条件の組み合わせに応じて適切な補正可能範囲を設定することが可能な画像処理プログラムを提供すること。
【解決手段】撮影画像の撮影条件に対応した光学伝達関数情報を取得するステップ(S102)と、補正値を用いて前記光学伝達関数情報を補正した補正光学伝達関数情報を用いて回復画像を生成する回復画像生成ステップ(S106〜S108)と、前記補正値の設定可能範囲を前記光学伝達関数情報の逆特性に基づいて設定する設定ステップ(S103、S104)をコンピュータに実行させることを特徴とする。
【選択図】図1

Description

本発明は、撮影画像の画像処理に関し、特に撮像光学系による撮影画像の劣化を高精細に補正する技術に関する。
撮像光学系により撮影された被写体は、撮像光学系で発生する回折や収差等の影響により、1点から発生した光が1点に収束することができなくなるため微小な広がりを持つこととなる。このような微小な広がりを持った分布をPSF(点像強度分布関数)と呼ぶ。該撮像光学系の影響のため、撮影された画像は、撮影画像にPSFが畳み込まれて形成されることになり、画像がぼけて解像度が劣化する。
近年、撮影画像を電子データとして保持することが一般的になり、画像処理によって光学系による画像劣化を補正する技術が提案されるようになった。以下、このような画像劣化補正技術を画像回復と称し、従来行われている一般的な方法を示す。
実空間(x,y)上で、光学系による劣化を受ける前の画像をf(x,y)、PSFをh(x,y)、劣化した画像をg(x,y)とすると、これらは以下に示す(1)式で書くことができる。
g(x,y)=∫∫f(X,Y)*h(x‐X,y−Y)dXdY ・・・(1)
上記(1)式にフーリエ変換を施し、実空間(x,y)から周波数空間(u,v)への変換を行うと、
G(u,v)=F(u,v)*H(u,v) ・・・(2)
と書くことができる。
ここで、F(u,v)はf(x,y)のフーリエ変換であり、G(u,v)はg(x,y)のフーリエ変換であり、H(u,v)はh(x,y)のフーリエ変換である。
さらに、上記(2)式を変形すると、
F(u,v)=G(u,v)/H(u,v) ・・・(3)
となる。これは周波数空間上で、劣化画像g(x,y)のフーリエ変換G(u,v)をPSFであるh(x,y)のフーリエ変換H(u,v)で割ることにより、劣化を受ける前の画像f(x,y)のフーリエ変換であるF(u,v)を得ることができることを意味する。従って、F(u,v)にフーリエ逆変換を施せば、劣化をうける前の画像f(x,y)を得ることができる。
しかしながら実際に、このような処理をおこなって劣化を受ける前の画像を得ようとすると、撮像素子によって生じ得るノイズを著しく増幅させることになり、良好な画像を得ることは出来ない。そこで、ノイズの増幅を抑制するための画像回復手法として、下記(4)式で表されるウィナーフィルタを用いることが知られている。ここで、H(u,v)はOTF(光学伝達関数)であり、Γはノイズの増幅量を低減するための定数である。
W(u,v)=1/H(u,v)*|H(u,v)|/(|H(u,v)|+Γ) ・・・(4)
上記(4)式を、劣化画像g(x,y)のフーリエ変換G(u,v)に乗算すれば、光学系の回折や収差によって発生したPSFの位相成分を0にし、振幅成分の周波数特性を増幅することで高解像度かつ良好な画像を得ることができる。即ちウィナーフィルタを用いた画像回復処理により回復された画像の周波数空間情報をR(u,v)とすると、
R(u,v)=G(u,v)*W(u,v) ・・・(5)
が得られる。
このとき(4)式から|W(u,v)|≦1/|H(u,v)|なる関係が分かる。即ち画像回復フィルタを用いることで増幅できる周波数特性の最大値は1/|H(u,v)|であり、OTFの絶対値の逆数、所謂逆フィルタの特性と一致する。
一般的なカメラ等で撮影された画像に対して、例えば(4)式のウィナーフィルタによる処理で画像回復処理を行う場合、式中のΓの値を制御することで回復処理の補正値を0から1/|H(u,v)|まで制御することが出来る。またウィナーフィルタに種々変形を施したものでも、回復処理の補正値は0から1/|H(u,v)|までの範囲で制御することが可能である。本明細書においては、0から1/|H(u,v)|までの範囲を補正可能範囲(以下、設定可能範囲ともいう。)と定義する。
ユーザーの指示により設定された補正値を用いて、画像処理装置や撮像装置やソフトウエアがインストールされたコンピュータが処理を行う場合は、所望の回復度合いに応じた補正値を選択あるいは変更することが好ましい。
例えば特許文献1では画像処理等の分野でエッジ強調等の補正値の補正の強さの範囲を変更するという発明が開示されている。また、特許文献2では画像と画像出力装置の周波数特性から復元限界を検出して画像回復処理を行うという発明が開示されている。
特許第3840032号 特開2011−22868号公報
しかしながら、上述の特許文献に開示された従来技術は、様々な条件の組み合わせがあるシステムにおける補正値の強さの範囲を具体的に決定する手法については言及していなかった。デジタルカメラに用いられる画像回復処理は、一般的なエッジ強調処理やシャープネス処理とは異なり撮像光学系の識別情報を含む焦点距離、F値、撮影距離、像高、撮像素子の画素サイズなどの撮影条件の組み合わせ毎に補正可能範囲が大きく異なる。補正可能範囲を超えた補正値を用いて画像回復処理を行ってもユーザーは回復効果を体感することができない。
また、他の課題として、補正可能範囲を表示部に表示する場合には、回復効果が得られる補正可能範囲の最大値を、ユーザーが認識できるように表示されないため、回復処理の補正値を決める際に不便である点が挙げられる。
本発明は、様々な撮影条件の組み合わせに応じて適切な補正可能範囲を設定することが可能な画像処理プログラムを提供することを例示的目的とする。
本発明の一側面としての画像処理プログラムは、撮影画像の撮影条件に対応した光学伝達関数情報を取得するステップと、補正値を用いて前記光学伝達関数情報を補正した補正光学伝達関数情報を用いて回復画像を生成する回復画像生成ステップと、前記補正値の設定可能範囲を前記光学伝達関数情報の逆特性に基づいて設定する設定ステップをコンピュータに実行させることを特徴とする。
本発明によれば、様々な撮影条件の組み合わせに応じて適切な補正可能範囲を設定することが可能な画像処理プログラムを提供することが可能となる。
実施例1における画像回復処理方法の処理フローの一例を示す図である。 実施例2における画像回復処理に用いるOTFデータ等の一例を示す図である。 実施例2における画像回復処理に用いる各種条件の一例を示す図である。 実施例2における画像回復処理に用いるOTFデータのから回復限界値を算出する手法の一例を示す図である。 実施例2における画像回復フィルタの一例を示す図である。 実施例3における画像処理GUIの一例を示す図である。 実施例4における画像処理装置を内蔵した撮像装置の一例を示す図である。 実施例5における画像処理プログラムの一例を示す図である。 実施例2における画像回復処理方法の処理フローの一例を示す図である。
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
図1は本発明における画像処理の流れの一例を示す図である。まず、カメラ等の撮像装置で被写体を撮像し(S101)、光学系による劣化をうけた撮影画像データを画像処理装置に入力して、画像回復処理を開始する。該撮影画像データには、撮影光学系の識別情報、撮影時の焦点距離、F値、撮影距離、像高、撮像素子の画素サイズ等といった撮影条件情報が付加されている。したがって、まずは画像処理装置で撮影画像データに付加されている撮影条件情報を取得する。次に画像処理装置内部の光学特性データ記憶部に保持されている光学特性データから、取得した撮影条件情報に対応するステータスを持つ撮影画像の各像高位置に対応するOTF情報(光学伝達関数情報)を取得する(S102)。そして、該OTF情報に基づいて、撮影時の撮影条件における補正可能最大値を算出し、設定する(S103)。該補正可能最大値は撮影画像の像高位置毎に決定しても良いし、各像高位置全ての中から補正可能最大値を決定しても良い。なお、S103で設定された補正可能最大値は、S103で設定される前の補正値の補正可能範囲の最大値よりも小さな値である。補正可能最大値以下を補正可能範囲(設定可能範囲)として取得し(S104)、該補正可能範囲内でユーザーが補正値を決定する(S105)。次に、決定した補正値を用いて上記光学伝達関数情報を補正した補正光学伝達関数情報を用いて画像回復フィルタを生成して(S106)、撮影画像を補正し(S107)、補正処理後の画像を得る(S108)。S106〜S108は、回復画像を生成する回復画像生成ステップともいえる。ここで用いる画像回復処理は、一般的に知られているウィナーフィルタなどを用いればよい。
図2〜4を用いて、画像回復処理における補正可能最大値を取得し、補正可能範囲を決定する手法を説明する。図2の(a)、(b)、(c)はそれぞれ異なった撮像光学系、撮影条件(焦点距離、F値、撮影距離、像高、撮像素子の画素のサイズ等)で撮影した画像である。以下図2(a)を代表的に説明する。図2(a)の撮影画像には、図3に示すような撮像光学系情報、光学ローパスフィルタ情報、撮像素子情報が添付されている。この撮影画像を画像回復処理を行う画像処理装置に入力すると、これらの添付情報に基づいて、撮影画像上の各像高点におけるOTF情報を取得し、該各像高点のOTF情報に基づいて補正可能最大値を取得する。
図4(a)の丸囲みの1〜3はそれぞれ撮像光学系の識別情報および像高を含む撮影条件が異なる3つのOTFの絶対値を2次元分布|OTF(u,v)|で示しており、これはMTFとも呼ばれる。撮像素子によって取得された光学像は、撮像素子のナイキスト周波数までの周波数帯域にデジタルサンプリングされる。OTF(u,v)を計算によって算出して光学特性データ記憶部に保持しておく場合は、まず光学空中像の遮断周波数までのOTF(u,v)が得られる。光学特性データ記憶部内部に、光学的遮断周波数までの全帯域でOTF(u,v)情報を保持している場合は、撮像素子のナイキスト周波数までに注目すればよい。
画像回復処理で得られる補正効果として最大のものは、ナイキスト周波数内の全周波数帯域においてOTF(u,v)が1になることである。即ちこの最大の補正効果が得られる補正値は|1/OTF(u,v)|となり、図4(c)に示すような各周波数において図4(a)に示した|OTF(u,v)|の逆数の値となる。
図4(b)の丸囲みの1〜3はそれぞれ図4(a)における|OTF(u,v)|の一断面を示したものであり、実線は|OTF(0,v)|、破線は|OTF(u,0)|を示している。また同様に図4(d)の丸囲みの1〜3はそれぞれ図4(c)における|1/OTF(u,v)|の一断面を示したものであり、実線は|1/OTF(0,v)|、破線は|1/OTF(u,0)|を示している。図4(e)は|OTF(u,v)|の逆特性と補正可能範囲を制御可能な制約条件に基づいて補正された補正値のu,v軸上についての一断面を示したものである。実際には、|OTF(u,v)|の2次元空間上における補正可能範囲の最大値を算出するが、本実施例においては、説明を簡単にするために一次元の図4(b)、(d)、(e)を用いて説明する。
図4(b)の丸囲みの1〜3のような|OTF|を持つ撮像光学系において、図4(d)の丸囲みの1〜3がそれぞれに対応する|OTF(u,v)|の逆特性の周波数特性となる。図4(d)の丸囲みの1〜3において、それぞれの撮像素子の周波数帯域内での最大値は5、3、∞となっている。この時、周波数によって|OTF(u,v)|の値に0もしくは0近傍の値が発生してしまうと、その逆特性が、∞のような不定値や大きな値に発散してしまう。このとき逆特性に一致した大きな補正可能最大値を設定しても、補正効果が飽和してしまって補正効果を体感しにくくなる。さらに、ノイズの大幅な増幅やリンギング等の、画像を劣化させる要因が大きく発生してしまう。従って|OTF(u,v)|の逆特性が大きく発散しないような制約条件を設定することとし、これを以降において補正可能範囲制御条件と称することにする。図4(e)は|OTF(u,v)|の逆特性と補正可能範囲制御条件に基づいて決定した補正可能最大値を示している。該補正可能最大値以下を補正可能範囲とすることで、ユーザーが指定した通りの補正値が実現でき、該補正値通りの補正効果を体感できる。
この補正可能最大値を決定する際の補正可能範囲制御条件は、画像回復フィルタ設計の際に所定の周波数以上に補正量の制限を設ける等の、所謂帯域制限条件として設定しても良い。また、式(4)に示したウィナーフィルタまたはそれに類似する画像回復フィルタにおいて、画像回復フィルタ設計の際に特定の周波数帯に重みづけして補正可能最大値を算出しても良い。上述した手法を画像の色成分ごとのOTFに応じて行うことが望ましいが、計算時間を低減させるために該色成分のうち、R成分、G成分、B成分のうちのいずれか一つにおいて算出して用いても良い。
上述した手法により求めた補正可能最大値とOTF情報から画像回復フィルタを生成し、撮影画像を補正する。図9に詳細な手順を示す。
まずステップS900において、画像処理装置は、撮影された画像データとともに記録された、焦点距離、F値、撮影距離情報を取得する。
次にステップS901において、画像処理装置は、画像回復フィルタを生成する画像上の像高位置をN個設定する。ここで、像高位置やその個数Nは、画像上の像高位置に対する光学特性がなめらかに変化するように設定することが望ましい。特に一般的な撮像光学系ではN≧150程度が好ましい。150未満であると、各像高間での光学特性の変化が大きくなり、回復精度が低下してしまう。
次にステップS902において、画像処理装置は、ステップS900において取得された焦点距離、F値、撮影距離とステップS901において設定されたN個の像高位置に対して、記憶部に保持されたOTF情報からOTF(f,F,d,h,u,v)を生成する。
本実施例においては、画像回復フィルタとしてウィナーフィルタを用いる。ウィナーフィルタは式(4)に示す画像回復フィルタであり、画像回復時の周波数成分の増幅に対して、ノイズを抑制する補正項Γをもつ。
式(4)を様々な焦点距離:f、F値:F、撮影距離:d、像高:hにおけるOTFに適用し、帯域制限値:Rを用いて改めて書き直すと、下記の式(6)となる。
W(OTF(f,F,d,h,u,v),R,a)=1/OTF(f,F,d,h,u,v)*|OTF(f,F,d,h,u,v)|/(|OTF(f,F,d,h,u,v)|+Γ)*R+(1−R)
・・・(6)
以下、画像回復処理を実行する対象画像の撮影条件が、焦点距離:f1、F値:F1、撮影距離:d1であったとして説明する。
次にステップS903において、画像処理装置は、式(6)にf=f1、F=F1、d=d1を代入して、以下の式(7)で示す画像回復フィルタを得る。尚、焦点距離:f1、F値:F1、撮影距離:d1、像高:h1は、撮像光学系がとり得る任意の値である。また、帯域制限値:Rは定数でもよいし、周波数(u,v)の関数でもよい。
W(OTF(f1,F1,d1,h1,u,),R,Γ)=1/OTF(f1,F1,d1,h1,u,v)*|OTF(f1,F1,d1,h1,u,v)|/(|OTF(f1,F1,d1,h1,u,v)|+Γ)*R+(1−R)
・・・(7)
さらにステップS903において、画像処理装置は、式(7)に補正可能最大値を算出するためのΓmaxをΓに代入する。ウィナーフィルタの場合、Γmax=0であり、このとき式(7)は帯域制限された逆フィルタとなる。すなわち、Γmaxは、ウィナーフィルタの逆特性に基づく値である。各像高位置において、Γmaxが代入された関数の絶対値|W(OTF(f1,F1,d1,h1,u,v),R,Γmax=0)|における周波数空間内の最大値max|W(OTF(f1,F1,d1,h1,u,v),R,Γmax=0)|を求める。これが、補正値の設定可能範囲の最大値となる。
以下、補正値の設定可能範囲の最大値を補正可能最大値と称する。この補正可能最大値を算出するために用いるΓmaxは、ウィナーフィルタやそれを変形したフィルタなど、種々の画像回復フィルタおいて理論的なmax|W(OTF(f1,F1,d1,h1,u,v),R,Γmax=0)|の最大値が得られる値とすればよい。即ち、本実施例においては、Γmaxとして値0(零)を用いたが、これに限られない。
ステップS903Aにおいて、画像処理装置は、ステップS901において設定された像高N個分の補正可能最大値が求められたか否かを判定する。本実施例においては、対象画像の各像高位置別に補正可能最大値を算出するが、各像高でなくともよく、あらかじめ設定された特定の像高において、補正可能最大値を取得してもよい。
次にステップS904において、画像処理装置は、各像高のうち、最も補正可能最大値が大きい値を補正可能最大値として設定する。尚、補正可能最大値は任意の1つの像高から算出してもよいし、全像高から算出してその中の最大値を用いても良い。
次にステップS905において、ユーザーが指定した補正値と補正可能最大値を比較し、小さい値を表示部に表示する。具体的な表示例については後述する。
尚、ステップS904において、任意の1つの像高のみから補正可能最大値を算出する場合は、ステップS902〜S903のループ処理は実行されず、ステップS905において、任意の1つの像高における補正可能最大値が設定される。さらに、撮影条件によっては帯域制限や回復フィルタ設計時の留意のみでは補正可能最大値が大きくなりすぎる場合も存在する。このような場合に対応するために、記憶部に補正可能最大値を撮影条件毎にテーブル化して保持させておいても良い。
次に、ステップS906において、画像処理装置は、GUIによって表示された補正可能範囲からユーザーによって操作部を介して選択あるいは設定された補正値を用いた画像回復フィルタを生成する。補正された画像回復フィルタを用いて、画像処理部は、回復対象画像と画像回復フィルタをコンボリューションすることによって、回復画像を生成する。GUIの詳細については、後述する。
本実施例においては画像回復処理を行う周波数帯域に制限を設ける手法を示したが、制限を設ける手法は帯域制限に限られるものではなく、例えば帯域制限値:Rを用いなくてもよい。あるいは、周波数帯域に制限を設けることと同様の作用を得られるように、他の項の値や関数を変更してもよい。
また本実施例では、画像回復フィルタとしてウィナーフィルタを用いて説明してきたが、OTFの逆特性を用いて画像回復処理を行うものならば、特にウィナーフィルタに限定されるものではなく様々な変形を行ってもかまわない。従って、先に述べたように、Γmaxは、あくまで逆フィルタであるW=1/OTFを導くものに過ぎず、Γmaxは、値0(零)に限られない。
画像回復フィルタは図5(a)に示すような2次元フィルタであり、図5(a)の破線に沿った一軸上では図5(b)のような形状をしている。このように、本発明の画像回復フィルタは、一般的なエッジ強調フィルタ等と異なって、タップ数が大きく、また非対称な形状をしている場合もあるなどの特徴がある。
先に述べたように、画像回復処理は、撮影条件の組み合わせ毎に最適な補正可能範囲が大きく変化する。即ち、撮像光学系の収差量が大きく、撮影画像の劣化が大きいほど、上記補正可能範囲は大きくなる。一方で、撮像光学系の収差量が小さく、撮影画像の劣化が小さい場合、上記補正可能範囲は小さくなる。また、撮像光学系が同一でも、撮影条件が異なると収差量が大きく変化し、同様に上記補正可能範囲は大きく変化する。よって、撮像光学系の識別情報を含む撮影条件の組み合わせに応じて、ユーザーが簡易に補正値を決定して画像回復処理を行えるGUIを提供することは重要である。
図6は本発明を用いた画像回復処理装置を簡易にするためのGUI(グラフィカル・ユーザー・インターフェース)の一例を示す図である。
図6(a)は、GUIの左端を1、右端を回復限界値(補正可能最大値、設定可能最大値)とし、OTFから回復限界値を算出して表示してGUIの1から回復限界値の範囲内でユーザーが回復処理の強さを決定する。このようなGUIを設計することで自動的に右端が回復限界値となり、ユーザーが設定する回復処理の強さによらず、設定どおりの画像回復処理が可能である。図6(b)はGUIの左端を1、右端を50として表示してOTFから算出される回復限界値以下の範囲でユーザーが回復処理の強さを決定できるようなGUIである。図6(b)のGUIでは右端は50であるが、回復限界値までの範囲でユーザーが回復処理の強さを設定できる。本実施例ではGUIの一例としてスライダーで説明したが、スピンコントロール等でもよい。
図7は本発明における画像処理方法を用いた画像処理装置を内蔵した撮像装置であり、記憶部208内に撮像光学系201の識別情報及びOTF情報を焦点距離、F値、撮影距離、像高、撮像素子の画素のサイズなどの撮影条件の組み合わせ毎に保持しておく。撮像光学系201には、絞り201aやフォーカスレンズ201b等が設けられている。表示部205のGUI等により図1に示す画像処理フローを含む画像処理実行の決定が行われる。
該決定が行われると、撮像光学系201により形成された光学像を撮像する撮像素子202にて、該光学像を電気信号に変換して撮影画像を得る。このとき、撮像光学系制御部206や状態検知部207において、撮像光学系201の識別情報、撮影時の焦点距離、F値、撮影距離、像高、撮像素子の画素サイズなる撮影条件を取得する。A/D変換器203は撮像素子202から出力される光学像に対応したアナログ信号をデジタル信号に変換する。画像処理部204において、取得した撮影条件に対応するOTF情報に基づいて補正可能範囲を決定する。
表示部205において、決定された補正可能範囲からユーザーが補正値を決定するためのGUIを表示する。GUIは図6に示す補正可能範囲を表示するもので、補正可能範囲内においてユーザーが補正値を決定する。GUIにおいてユーザーが補正値を決定した後、画像処理部204において該補正値とOTF情報に基づいて画像回復フィルタを生成し、撮影画像に画像回復処理を施して、画像回復処理済みの画像を出力する。
画像処理部204には、撮影条件情報が付加された撮影画像を記録するための画像記録媒体209が接続されている。該画像記録媒体209に記録された撮影画像を撮影した時の撮影条件に対応したOTF情報は、上記のように記憶部208に記憶されている。システムコントローラ210は、CPUやMPU等によって構成され、撮像装置全体の制御を司る。
本発明における画像処理方法をコンピュータ(パソコン等)で動作させるプログラムについて図8を用いて説明する。上記プログラムは、コンピュータに、撮像光学系の光学特性データである焦点距離、F値、撮影距離、像高などの組み合わせ毎のOTF情報と、該OTF情報を用いて画像回復フィルタを生成する画像処理方法を実行させるプログラムである。OTF情報は、光学特性データが保存されているDVD等のメディア等やインターネットを介して取得することができる。
本発明のプログラムは図1及び図9の画像処理フローを実行する画像処理プログラムである。以下に図1に沿って本実施例における画像処理プログラムの実行手順を説明する。パソコンを起動し、プログラムを実行する。モニター等のディスプレイ画面上のGUIを用いて画像処理を開始する。撮影画像と該撮影画像を取得した際の撮影条件(撮像光学系の識別情報、焦点距離、F値、撮影距離、像高、撮像素子の画素サイズ等)と該撮影条件に対応するOTF情報を用いて補正可能範囲を決定する。プログラムが画像処理を開始する際に、パソコンを介したディスプレイ上に図6に示すGUIを用いて補正可能範囲を表示する。該補正可能範囲内でユーザーが補正値を決定し、該補正値とOTF情報に基づいて画像回復フィルタを生成し、撮影画像に画像回復処理を施して、画像回復処理済みの画像を出力する。撮影画像を補正する方法については、これまでに詳細に説明したので割愛する。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
本発明の画像処理技術は、ビデオカメラ、コンパクトカメラあるいは一眼レフカメラなどの撮像装置に好適に利用できる。
201 撮像光学系
204 画像処理部
205 表示部
208 記憶部

Claims (8)

  1. 撮影画像の撮影条件に対応した光学伝達関数情報を取得するステップと、
    補正値を用いて前記光学伝達関数情報を補正した補正光学伝達関数情報を用いて回復画像を生成する回復画像生成ステップと、
    前記補正値の設定可能範囲を前記光学伝達関数情報の逆特性に基づいて設定する設定ステップをコンピュータに実行させることを特徴とする画像処理プログラム。
  2. 前記設定ステップは、前記補正値の設定可能範囲の最大値を設定することを特徴とする請求項1に記載の画像処理プログラム。
  3. 前記設定ステップは、前記補正値の設定可能範囲の最大値として、前記設定ステップにより設定される前の補正値の設定可能範囲の最大値よりも小さい値を設定することを特徴とする請求項2に記載の画像処理プログラム。
  4. 前記コンピュータに、
    前記補正値の設定可能範囲を表示する表示ステップを実行させることを特徴とする請求項1乃至3いずれか1項に記載の画像処理プログラム。
  5. 撮影画像の撮影条件に対応した光学伝達関数情報を取得するステップと、
    補正値を用いて前記光学伝達関数情報を補正した補正光学伝達関数情報を用いて回復画像を生成する回復画像生成ステップと、
    前記補正値の設定可能範囲を前記光学伝達関数情報の逆特性に基づいて設定する設定ステップを有することを特徴とする画像処理方法。
  6. 撮影画像の撮影条件に対応した光学伝達関数情報を取得する手段と、
    補正値を用いて前記光学伝達関数情報を補正した補正光学伝達関数情報を用いて回復画像を生成する回復画像生成手段と、
    前記補正値の設定可能範囲を前記光学伝達関数情報の逆特性に基づいて設定する設定手段を有することを特徴とする画像処理装置。
  7. 撮像光学系により形成される光学像を撮像する撮像素子と、
    撮影画像の撮影条件に対応した光学伝達関数情報を記憶する記憶部と、
    前記撮像素子において取得された前記撮影画像に画像処理を実行する画像処理部を有し、
    前記画像処理部は、
    前記記憶部において記憶された前記光学伝達関数情報を取得し、
    補正値を用いて前記光学伝達関数情報を補正した補正光学伝達関数情報を用いて回復画像を生成し、
    前記補正値の設定可能範囲を前記光学伝達関数情報の逆特性に基づいて設定することを特徴とする撮像装置。
  8. 撮像光学系を有することを特徴とする請求項7に記載の撮像装置。
JP2011250310A 2011-08-25 2011-11-16 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置 Active JP5361976B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011250310A JP5361976B2 (ja) 2011-08-25 2011-11-16 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置
CN201210298555.XA CN102957845B (zh) 2011-08-25 2012-08-21 图像处理程序、方法、装置和图像拾取装置
US13/591,419 US8749659B2 (en) 2011-08-25 2012-08-22 Image processing program, image processing method, image processing apparatus, and image pickup apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011183247 2011-08-25
JP2011183247 2011-08-25
JP2011250310A JP5361976B2 (ja) 2011-08-25 2011-11-16 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置

Publications (2)

Publication Number Publication Date
JP2013061925A true JP2013061925A (ja) 2013-04-04
JP5361976B2 JP5361976B2 (ja) 2013-12-04

Family

ID=47743211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011250310A Active JP5361976B2 (ja) 2011-08-25 2011-11-16 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置

Country Status (3)

Country Link
US (1) US8749659B2 (ja)
JP (1) JP5361976B2 (ja)
CN (1) CN102957845B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015005918A (ja) * 2013-06-21 2015-01-08 株式会社リコー 撮像システムおよび結像光学系および画像処理部および撮像システムの製造方法
JP2015102945A (ja) * 2013-11-22 2015-06-04 キヤノン株式会社 画像回復フィルタの生成方法、画像処理方法、撮像装置、画像処理装置
US9787874B2 (en) 2015-03-31 2017-10-10 Canon Kabushiki Kaisha Image processing apparatus with sharpness determination, information processing apparatus, and methods therefor

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9030597B2 (en) * 2010-09-30 2015-05-12 Nikon Corporation Interchangeable lens and camera body
JP5864813B2 (ja) * 2013-03-04 2016-02-17 富士フイルム株式会社 復元フィルタ生成装置及び方法、画像処理装置及び方法、撮像装置、プログラム並びに記録媒体
JP5851649B2 (ja) * 2013-03-04 2016-02-03 富士フイルム株式会社 復元フィルタ生成装置及び方法、画像処理装置及び方法、撮像装置、プログラム並びに記録媒体
WO2014155814A1 (ja) * 2013-03-27 2014-10-02 富士フイルム株式会社 撮像装置、キャリブレーション方法、プログラム及び記録媒体
JP2017028583A (ja) * 2015-07-24 2017-02-02 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
CN109644230B (zh) * 2016-08-25 2020-10-30 佳能株式会社 图像处理方法、图像处理装置、图像拾取装置和存储介质
WO2018150682A1 (ja) * 2017-02-17 2018-08-23 富士フイルム株式会社 画像処理装置、画像処理方法、およびカメラシステム
JP6935370B2 (ja) * 2018-07-24 2021-09-15 アンリツ株式会社 信号発生装置および該装置を用いた周波数特性表示方法
JP7301601B2 (ja) 2019-05-24 2023-07-03 キヤノン株式会社 画像処理装置、撮像装置、レンズ装置、画像処理システム、画像処理方法、および、プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007183842A (ja) * 2006-01-10 2007-07-19 Tokyo Institute Of Technology 画像復元フィルタ及びそれを用いた画像復元方法
JP2011010214A (ja) * 2009-06-29 2011-01-13 Canon Inc レンズ交換式カメラ、及びその制御方法

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3583447B2 (ja) * 1992-04-28 2004-11-04 オリンパス株式会社 撮像装置
US20020195548A1 (en) * 2001-06-06 2002-12-26 Dowski Edward Raymond Wavefront coding interference contrast imaging systems
SE9601229D0 (sv) * 1996-03-07 1996-03-29 B Ulf Skoglund Apparatus and method for providing reconstruction
JP3840032B2 (ja) 2000-03-28 2006-11-01 キヤノン株式会社 画像処理装置、及び画像処理方法
JP2004241991A (ja) * 2003-02-05 2004-08-26 Minolta Co Ltd 撮像装置、画像処理装置及び画像処理プログラム
JP2007304525A (ja) * 2006-05-15 2007-11-22 Ricoh Co Ltd 画像入力装置および電子機器および画像入力方法
JP2008268869A (ja) * 2007-03-26 2008-11-06 Fujifilm Corp 撮像装置、撮像方法、及びプログラム
JP5124835B2 (ja) * 2008-02-05 2013-01-23 富士フイルム株式会社 画像処理装置、画像処理方法、およびプログラム
US8363129B2 (en) * 2008-06-27 2013-01-29 Kyocera Corporation Imaging device with aberration control and method therefor
JP4942216B2 (ja) * 2008-09-30 2012-05-30 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置及びプログラム
TW201021018A (en) * 2008-11-21 2010-06-01 Chunghwa Picture Tubes Ltd Color correction method and related device for liquid crystal display
US8730371B2 (en) * 2008-12-10 2014-05-20 Canon Kabushiki Kaisha Image processing apparatus and image processing method, and data processing apparatus and data processing method
JP5235642B2 (ja) * 2008-12-15 2013-07-10 キヤノン株式会社 画像処理装置およびその方法
JP5374217B2 (ja) * 2009-04-22 2013-12-25 キヤノン株式会社 画像処理装置およびその方法
JP5289222B2 (ja) 2009-07-16 2013-09-11 キヤノン株式会社 画像処理装置およびその方法
CN102113013A (zh) * 2009-07-22 2011-06-29 松下电器产业株式会社 视差检测装置、测距装置及视差检测方法
CN102549478B (zh) * 2009-08-14 2016-02-24 爱克透镜国际公司 带有同时变量的像差校正的光学器件
JP2011135563A (ja) * 2009-11-30 2011-07-07 Canon Inc 撮像装置および画像処理方法
CN102714737B (zh) * 2009-12-17 2015-12-02 佳能株式会社 图像处理设备和使用图像处理设备的图像捕获装置
JP2011130241A (ja) * 2009-12-18 2011-06-30 Fujifilm Corp 撮像装置
US8330825B2 (en) * 2010-02-22 2012-12-11 Eastman Kodak Company Zoom lens system characterization for image sharpening
CN102844788B (zh) * 2010-03-31 2016-02-10 佳能株式会社 图像处理装置及使用该图像处理装置的图像拾取装置
CN102422321B (zh) * 2010-04-23 2015-01-07 松下电器产业株式会社 摄像装置以及图像复原方法
US9025053B2 (en) * 2010-04-23 2015-05-05 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus and image restoration method
US20120262596A1 (en) * 2011-04-18 2012-10-18 Infineon Technologies Ag Image focusing devices and methods for controlling an image focusing device
US8610813B2 (en) * 2011-05-31 2013-12-17 Omnivision Technologies, Inc. System and method for extending depth of field in a lens system by use of color-dependent wavefront coding
US8653454B2 (en) * 2011-07-13 2014-02-18 Luminescent Technologies, Inc. Electron-beam image reconstruction

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007183842A (ja) * 2006-01-10 2007-07-19 Tokyo Institute Of Technology 画像復元フィルタ及びそれを用いた画像復元方法
JP2011010214A (ja) * 2009-06-29 2011-01-13 Canon Inc レンズ交換式カメラ、及びその制御方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015005918A (ja) * 2013-06-21 2015-01-08 株式会社リコー 撮像システムおよび結像光学系および画像処理部および撮像システムの製造方法
JP2015102945A (ja) * 2013-11-22 2015-06-04 キヤノン株式会社 画像回復フィルタの生成方法、画像処理方法、撮像装置、画像処理装置
US9787874B2 (en) 2015-03-31 2017-10-10 Canon Kabushiki Kaisha Image processing apparatus with sharpness determination, information processing apparatus, and methods therefor

Also Published As

Publication number Publication date
US20130050539A1 (en) 2013-02-28
JP5361976B2 (ja) 2013-12-04
CN102957845B (zh) 2016-07-06
CN102957845A (zh) 2013-03-06
US8749659B2 (en) 2014-06-10

Similar Documents

Publication Publication Date Title
JP5361976B2 (ja) 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置
JP6045185B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5709911B2 (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
JP5615393B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2011119802A (ja) 画像処理装置、画像処理方法
TWI626500B (zh) 攝影裝置、透鏡單元以及訊號處理裝置
JP5653464B2 (ja) 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP5712031B2 (ja) 撮像装置、撮影レンズユニット、および撮像ユニット
KR20110075366A (ko) 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체
JP5541750B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び、プログラム
JP2016119532A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP6333076B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体
US10339637B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for correcting deterioration of image
US9652832B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium which perform image restoration processing
JP6537228B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2019220045A (ja) 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置
JP2015109681A (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
JP6555881B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2016201600A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP6486076B2 (ja) 画像処理装置および画像処理方法
JP2017123532A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記録媒体
JP2012156714A (ja) プログラム、画像処理装置、画像処理方法および撮像装置。
JP2015138470A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、及び、プログラム
JP6452389B2 (ja) 画像処理装置および画像処理方法
JP2016005246A (ja) 画像処理装置、画像表示装置、画像処理方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130624

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20130624

TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20130801

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130903

R151 Written notification of patent or utility model registration

Ref document number: 5361976

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151