WO2011122284A1 - 画像処理装置、およびそれを用いた撮像装置 - Google Patents

画像処理装置、およびそれを用いた撮像装置 Download PDF

Info

Publication number
WO2011122284A1
WO2011122284A1 PCT/JP2011/055610 JP2011055610W WO2011122284A1 WO 2011122284 A1 WO2011122284 A1 WO 2011122284A1 JP 2011055610 W JP2011055610 W JP 2011055610W WO 2011122284 A1 WO2011122284 A1 WO 2011122284A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
transfer function
difference
recovery
restored
Prior art date
Application number
PCT/JP2011/055610
Other languages
English (en)
French (fr)
Inventor
弘至 畠山
Original Assignee
キヤノン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2010082832 priority Critical
Priority to PCT/JP2010/055865 priority patent/WO2011121763A1/ja
Priority to JP2010-082832 priority
Priority to JPPCT/JP2010/055865 priority
Application filed by キヤノン株式会社 filed Critical キヤノン株式会社
Publication of WO2011122284A1 publication Critical patent/WO2011122284A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/001Image restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/001Image restoration
    • G06T5/003Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/217Circuitry for suppressing or minimising disturbance, e.g. moiré or halo in picture signal generation in cameras comprising an electronic image sensor, e.g. in digital cameras, TV cameras, video cameras, camcorders, webcams, or to be embedded in other devices, e.g. in mobile phones, computers or vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/335Transforming light or analogous information into electric information using solid-state image sensors [SSIS]
    • H04N5/357Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N5/3572Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/04Picture signal generators
    • H04N9/045Picture signal generators using solid-state devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Abstract

 収差の非対称性を補正しつつ、高精細な画像を得ることが可能な画像処理装置を提 供することを課題とする。 本発明の画像処理装置は、入力画像を取得する画像取得手段と、被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいて生成または選択された画像回復フィルタを用いて前記入力画像を回復し、回復画像を生成する画像回復手段とを有し、前記画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくすることを特徴とする画像処理装置。

Description

画像処理装置、およびそれを用いた撮像装置

 本発明は画像処理を行う画像処理装置に関する発明であり、特に画像回復(復元)を行う画像処理装置に関する。

 デジタルカメラ等の撮像装置により得られた画像は、ぼけによって画像が劣化している。画像のボケは、撮像光学系の球面収差、コマ収差、像面湾曲、非点収差などが原因である。これら収差は、点像分布関数(PSF、Point Spread Function)により表すことができる。点像分布関数(以下、PSF)をフーリエ変換して得られる光学伝達関数(OTF、Optic Transfer Function)は、収差の周波数空間での情報であり、複素数で表される。光学伝達関数(以下、OTF)の絶対値、即ち振幅成分はMTF(Modulation Transfer Function)、位相成分はPTF(Phase Transfer Function)と呼ばれる。撮像光学系のOTFは画像の振幅成分と位相成分に影響(劣化)を与える。このため、OTFの影響により劣化した画像(以下、劣化画像)は、被写体の各点がコマ収差のように非対称にボケた画像になる。

 これについて図23を用いて説明する。図23A、B、Cは、主光線(光学系の瞳の中心を通る光線)と垂直に交わる面における、点像分布関数(PSF)の拡がりを表した模式図である。図23に示した面内において、光軸を通り互いに垂直な線を軸x1、軸x2とし、図23に示した面内において光軸を通る任意の直線と軸x1が成す角θをアジムス角とする。また、図23の座標軸の原点を主光線の結像位置としたときに、アジムス角θが表す方向をアジムス方向とする。アジムス方向とは、サジタル方向およびメリジオナル方向を含み、それ以外の角度θ方向も含む全方向の総称である。

 既に述べたように、収差の位相成分(PTF)の劣化はPSFに非対称性を発生させる。また、振幅成分(MTF)の劣化はアジムス方向ごとのPSFの広がりの大きさに影響する。図23Aは、コマ収差の発生しているPSFを模式的に表した図である。光軸の偏芯が無く、回転対称形状のレンズからなる光学系の場合の光軸上以外の画角のPSFは、像面上で光軸と主光線を通る直線に関して対称であるので、線対称形状をしている。図23Aでは、PSFが軸x2に対して線対称となっている。

 図23Bは、位相ずれの無い状態のPSFを示している。各アジムス方向において対称な形状をしているが、振幅(MTF)の差異があるため、軸x1方向と軸x2方向ではPSFの広がりの異なった非対称なPSFとなっている。ちなみに、光軸上のPSFは、製造誤差を無視すると位相ずれが無く、振幅劣化のアジムス依存性も無いので図23Cのように回転対称な形状になる。つまり図23A、Bに示したように、PSFはアジムス方向ごとの位相(PTF)のずれと、アジムス方向間の振幅(MTF)の差異により非対称な形状となり、画像のボケとして、高精細な画像生成を阻害する要因となっている。

 画像のボケを補正する技術として、特許文献1は、画像回復フィルタを設計する際のパラメータαを式1のように設けている。調整パラメータαを調整することにより、画像回復フィルタは何も作用しないフィルタ(α=0)から逆フィルタ(α=1)に変化する。これにより、もとの撮影画像から最大に回復した画像までの範囲で画像の回復度合いをパラメータ1つで調整することができる。

Figure JPOXMLDOC01-appb-M000001
ここで、F(u,v)、G(u,v)はそれぞれ、回復画像および劣化画像のフーリエ変換である。

 その他に、画像のボケを補正し、鮮鋭度を向上させるフィルタとしてウィナーフィルタが知られている。式2にウィナーフィルタの周波数特性M(u,v)を示す。

Figure JPOXMLDOC01-appb-M000002
ここで、H(u、v)は光学伝達関数(OTF)である。|H(u,v)|はOTFの絶対値(MTF)である。SNRはノイズ信号の強度比である。以下、ウィナーフィルタや特許文献1に記載されているような、光学伝達関数(OTF)に基づいた画像回復フィルタを用いて画像の回復を行う処理を画像回復処理と称する。

特開2007-183842号公報

 しかしながら、上記のウィナーフィルタや特許文献1の画像回復フィルタは、撮像光学系による振幅成分および位相成分の劣化を補正することはできるが、アジムス方向間の振幅成分の相違を補正することはできない。ウィナーフィルタは、回復前のMTFがアジムス方向間で差異があると、回復後のMTFのアジムス方向の差異は拡大してしまう。これについて図20を用いて説明する。

 図20は画像回復処理を行う前のMTFとウィナーフィルタを用いて画像回復処理を行った後のMTFを表した図である。破線(a)、実線(b)はそれぞれ回復前の第1アジムス方向、第2アジムス方向のMTFである。破線(c)、実線(d)はそれぞれ回復後の前記第1アジムス方向、前記第2アジムス方向のMTFである。第1、第2アジムス方向とは、例えば、サジタル方向およびメリジオナル方向である。ウィナーフィルタはMTFが高ければ回復ゲイン(回復度合い)を低くし、MTFが低ければ回復ゲイン(回復度合い)を高くする画像回復フィルタである。従って、MTFの低いアジムス方向である破線(a)は、MTFの高いアジムス方向(b)よりも回復ゲインが低くなる。そのため、回復前の第1アジムス方向のMTF(a)、第2アジムス方向のMTF(b)の差よりも、回復後の第1アジムス方向のMTF(c)、第2アジムス方向のMTF(d)の差が拡大されてしまう。つまり、画像回復処理を行ったにも関わらず、非対称な収差が画像に現れてしまう。これは、特許文献1に開示されている画像回復フィルタに関しても同様である。

 本発明は以上の課題を鑑みてなされたものであり、画像回復処理により生じ得る非対称な収差を低減させ、より高精細な画像を得ることができる画像処理装置を提供することを課題とする。

 上記課題を解決するために本発明は、
 入力画像を取得する画像取得手段と、
 被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいて生成または選択された画像回復フィルタを用いて前記入力画像を回復し、回復画像を生成する画像回復手段とを有し、
 前記画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくすることを特徴とする。

 本発明の効果は、非対称な収差が低減された高精細な回復画像を生成することが可能な点である。

本発明の実施例である画像処理全体のフローチャート 画像回復フィルタの説明図 画像回復フィルタの説明図 各アジムス方向間のMTFの補正量に関する第1説明図 各アジムス方向間のMTFの補正量に関する第2説明図 撮像装置の基本構成を示すブロック図 実施例1における画像回復フィルタの選択、補正に関する説明図 実施例1の画像処理手順を示すフローチャート 実施例1の画像処理前後のMTF変化を示す図 エッジ強調フィルタの説明図 エッジ強調フィルタを適用した場合のエッジ断面図 エッジ強調フィルタを適用した場合のエッジ断面図 エッジ強調フィルタを適用した場合のエッジ断面図 実施例2の画像処理システムの説明図 実施例2の画像処理システムの説明図 実施例2の補正情報の説明図 実施例3の画像処理手順の説明図。 第1の画像回復処理のフローチャート。 調整パラメータ設定についてのフローチャート。 実施例3における画像処理のフローチャート。 実施例4の画像回復処理手順の説明図。 点像分布関数(PSF)の説明図 点像分布関数(PSF)の説明図 点像分布関数(PSF)の説明図 画像の振幅成分(MTF)と位相成分(PTF)の説明図 従来の画像回復処理前後のMTF変化を示す図 従来の画像処理方法を示すフローチャート。 偽色の説明図。 アジムス方向の説明図 アジムス方向の説明図 アジムス方向の説明図

 はじめに、本発明の画像処理の流れについて図1を用いて説明する。図1に画像の入力から出力までの処理工程を示す。まずステップS11の画像取得工程において、撮像系により生成された画像を取得する。以下、画像取得工程において取得された画像を入力画像と記す。

 次にステップS12において、ステップS11で取得された入力画像の撮影された条件に対応する画像回復フィルタを生成する。尚、このステップS12は、予め用意された複数の画像回復フィルタの中から適当なフィルタを選択する工程であってもよいし、フィルタを選択後、適宜そのフィルタを補正する工程であってもよい。ステップS13の画像回復処理工程では、ステップS12において、撮像系の伝達関数(撮像光学系の光学伝達関数)に基づいて生成、あるいは選択された画像回復フィルタを用いて画像回復処理(補正処理)を実行する。より詳しく説明すれば、入力画像の位相成分(PTF)については零を目標値に補正し、振幅成分(MTF)については2つのアジムス方向間でその差が減少するように補正する。そしてステップS14において、ステップS13で補正された補正画像を出力画像として出力する。

 尚、図1の工程の前後、あるいは途中に他の画像処理に関する工程を挿入しても構わない。他の画像処理とは、例えば歪曲収差補正、周辺光量補正などの電子収差補正やデモザイキング、ガンマ変換、画像圧縮などの処理である。次に、図1に示した各工程についてより詳細に説明する。

 尚、MTFは撮像系の伝達関数(撮像光学系の光学伝達関数)の振幅成分(絶対値)であるが、被写体(被写界内の物体)が白色点光源の場合、MTFを画像のスペクトルと捉えることができる。

 (画像取得工程)
 画像取得工程により取得される画像(以下、入力画像)は、撮像光学系を介して撮像素子で撮像することで得られたデジタル画像である。ここで得られたデジタル画像は、撮像光学系(レンズ)と各種の光学フィルタ類を含む撮像光学系の収差等に基づく光学伝達関数(OTF)により、被写界内での物体と比較して劣化している。この光学伝達関数(OTF)は、上記のような撮像光学系の光学素子の収差やその他の撮像装置の特性に基づいた伝達関数であることが望ましい。撮像光学系はレンズの他にも曲率を有するミラー(反射面)を用いることもできる。

 また、入力画像は色空間により表される。色空間の表し方には、例えばRGBがあるが、RGB以外にもLCHで表現される明度、色相、彩度や、YCbCrで表現される輝度、色差信号などがある。その他の色空間として、XYZ、Lab、Yuv、JChや色温度がある。これら一般に用いられている色空間により表される値を、色成分として本発明を適用することができる。

 また、入力画像は各画素に一つの色成分の信号値を有するモザイク画像でも良いし、このモザイク画像を色補間処理(デモザイキング処理)して各画素に複数の色成分の信号値を有したデモザイク画像でも良い。モザイク画像は色補間処理(デモザイキング処理)やガンマ変換やJPEG等の画像圧縮などの画像処理を行う前の画像として、RAW画像とも呼ぶ。例えば単板の撮像素子で複数の色成分の情報を得る場合には、各画素に分光透過率の異なるカラーフィルタを配置して、各画素に一つの色成分の信号値を有するモザイク画像を取得する。このモザイク画像に色補間処理を行うことで各画素に複数の色成分の信号値を有した画像を取得することができる。また、多板、例えば3板の撮像素子を用いる場合には各撮像素子ごとに分光透過率の異なるカラーフィルタを配置して、撮像素子ごとに異なる色成分の画像信号値を有したデモザイク画像を取得することになる。この場合、各撮像素子間で、対応する画素に対してそれぞれの色成分の信号値を有しているので、特に色補間処理を行わなくとも各画素に複数の色成分の信号値を有した画像を取得することができる。

 また入力画像には、入力画像を補正するための各種の補正情報を付帯することができる。補正情報には、レンズの焦点距離(ズーム位置)、絞り値、撮影距離(合焦距離)、露光時間、ISO感度などの撮像状態に関する情報(撮像状態情報)が含まれる。撮像から画像の出力までの一連の処理を一つの撮像装置で行う場合には、入力画像に撮像状態情報や補正情報を付帯しなくとも装置内で取得することもできる。しかし、撮像装置からRAW画像を取得し、撮像装置とは別体の画像処理装置で画像回復処理や現像処理等を行う場合には、上記のように画像に撮像状態情報や補正情報を付帯することが好ましい。ただしこれに限られず、画像処理装置に予め補正情報を記憶させ、入力画像に付帯された撮像状態情報から補正情報を選択可能なシステムを構成すれば、必ずしも画像に補正情報を付帯する必要はない。

 尚、入力画像は撮像光学系を介して撮像素子で撮像することで得られたデジタル画像と記述したが、入力画像は撮像光学系を含まない撮像系により得られたデジタル画像でも良い。例えば、被写体面に撮像素子を密着させて撮像を行うスキャナ(読み取り装置)や線撮像装置はレンズのような撮像光学系を持たない撮像装置により得られた画像であってもよい。これら、撮像光学系を持たないが、撮像素子による画像サンプリングによって生成された画像は少なからず劣化する。この場合の劣化特性は、撮像光学系の光学伝達関数(狭義の光学伝達関数)によるものではないが、撮像系のシステム伝達関数によるものでありこのシステム伝達関数は光学伝達関数に相当するものと言える。このため、本発明の実施例にいう「光学伝達関数」は、このような撮像光学系を含まない撮像系のシステム伝達関数を含む広義の光学伝達関数である。

 (画像回復フィルタ生成工程)
 次に、画像回復フィルタの生成について図2A、Bを参照しながら説明する。図2Aは実空間において入力画像の画素に対してコンボリューション処理が行われる画像回復フィルタの模式図である。画像回復フィルタのタップ(セル)数は、撮像系の収差特性や要求される回復精度に応じて決めることができ、画像が2次元のときは、一般的に画像の各画素に対応したタップ数を有する2次元の画像回復フィルタとなる。図2Aには、例として11×11タップの2次元画像回復フィルタを示した。また、画像回復フィルタのタップ数に関しては、一般的に多いほど回復精度が向上するので、タップ数は要求画質、画像処理能力、収差の特性等に応じて設定される。

 図2Aでは各タップ内の値を省略しているが、この画像回復フィルタの1断面を図2Bに示す。この画像回復フィルタの各タップのもつ値(係数値)の分布が、コンボリューション処理の際に、収差によって空間的に広がった信号値を理想的には元の1点に戻す役割を果たしている。つまり、本明細書において画像回復フィルタを取得するとは、この画像回復フィルタの各タップの値(係数)を取得することである。

 この画像回復フィルタを生成するためには、まず、撮像光学系の光学伝達関数(OTF)を計算若しくは計測する。元画像(劣化画像)が撮像光学系を持たないシステムにより得られた画像である場合には、その劣化特性は撮像システム伝達関数で表すことができるので、撮像システムの伝達関数を光学伝達関数(OTF)として画像回復フィルタを生成すればよい。以下で使用する光学伝達関数(OTF)という表現は、この撮像光学系を有ない撮像システムの伝達関数も含む。

 本発明で用いる画像回復フィルタは、従来の画像回復フィルタとは異なり、MTFのアジムス方向間の差異を補正する機能を有している。本発明の画像回復フィルタの作成工程について説明する前に、従来のウィナーフィルタについて図18、図19を用いて説明する。

 画像上のある位置でのある色成分の点像分布関数(PSF)のメリジオナル方向の断面を図18Aに、その周波数特性を図19に示す。図19(M)は振幅成分であるMTFを、図19(P)は位相成分であるPTFを示している。また、図18A、B、CのPSF(点像強度分布)に対応した周波数特性が、図19の破線(a)、2点鎖線(b)、1点鎖線(c)である。

 図18Aに示す補正前のPSFは、コマ収差等により非対称な形状をしており、図19(M)の破線(A)のように高周波ほど振幅応答の低いMTF特性を持ち、図19(P)の破線(a)のように位相ずれが発生している。これを光学伝達関数(OTF)の逆数(1/OTF(u,v))を逆フーリエ変換して作成した画像回復フィルタを用いて補正すると、理想的には図18BのようにPSFが広がりをもたないデルタ関数のように補正される。

 尚、OTFの逆数は逆フィルタと呼ばれ、該逆フィルタ(画像回復フィルタ)による回復度合いを本明細書では最大回復度合いと定義する。

 図18Bに対応するMTFは図19(M)の2点鎖線(b)のように全周波数に渡って1になり、PTFは図19(P)の2点鎖線(b)のように全周波数に渡って0になっている。

 しかしながら、前記したように、画像回復フィルタの作成にあたっては、ノイズ増幅の影響を制御する必要がある。図18AのPSFを、式1に示したウィナーフィルタで回復したPSFは図18Cのように、位相が補正されることで対称形状になり、振幅が向上されることでPSFの広がりが小さく先鋭な形状になる。図18Cに対応するMTFは図19(M)の1点鎖線(c)のように回復ゲインを抑制したものになり、PTFは図19(P)の1点鎖線(c)のように全周波数に渡って0になっている。回復ゲインを抑制したにも関わらず、PTFが0に補正される理由をについて、式3を用いて説明する。

 被写体として白色点光源を仮定すると、被写体の周波数特性は位相ずれが無く、振幅特性が全周波数に渡って1となる。よって、撮像光学系を通して得られる画像の周波数特性は光学伝達関数(OTF)そのものとなり、画像としてはPSF形状の画素値分布になる。即ち、入力画像の周波数特性をOTFとして、これに画像回復フィルタの周波数特性を掛け合わせれば回復画像の周波数特性を知ることができる。これを式で表現すると、式3のように、OTFであるH(u,v)は相殺され、回復画像の周波数特性は右辺のようになる。

Figure JPOXMLDOC01-appb-M000003
右辺の|H(u,v)|はOTFの絶対値(MTF)であるため、回復度合いを決定するパラメータSNRの値に関わらず位相成分は消滅することになる。従って、位相劣化成分が補正されることで、PSFは対称な形状に補正される。

 しかしながら、各アジムス方向ごと位相劣化成分が補正されることでPSFはアジムス方向ごとには対称に補正されるものの、各アジムス方向ごとに振幅成分が異なるため回転対称には補正されない。例えば、図23Aの線対象であるコマ収差が点対称に補正されることで図23Bの非点収差のようなPSFに補正される。即ち、各アジムス方向ごとに、位相が補正され振幅が異なっているPSFは点対称な状態にまでしか補正されない。従来の画像回復方法において、アジムス方向間のMTFの差異が補正されず、むしろ拡大されてしまうことは図20を用いて上述したとおりである。したがって、従来の画像回復方法では、非対称収差を十分に補正することができない。

 次に、本発明の非対称な収差を補正する機能を有した本発明の画像回復フィルタについて説明する。式1と式3から分かるように、式4のrOTFの部分が白色点光源を撮影した画像の回復後の周波数特性になる。

Figure JPOXMLDOC01-appb-M000004
ここで、rOTFは、任意の関数である。回復画像の位相劣化成分は零であることが望ましいので、rOTFは位相成分を持たないようにすれば良く、rOTFは実数部のみを有するため実質的にはrMTFと等しい。rOTFは実部のみを有することが好ましいが、許容可能な範囲で虚数部に値を持たせたとしても本発明の変形の範囲内であることはいうまでも無い。つまり式4に表した画像回復フィルタとすることで、点光源に関わらずどのような被写体でも、あたかも光学伝達関数(OTF)がrOTFの特性を持った撮像光学系で撮影された画像のようにすることができるということである。

 従って、アジムス方向間で共通なOTF(rH(u,v))を用いた式5のようにすることで、あたかもアジムス方向間にMTF差の無い撮像光学系で撮影した画像を得ることができる。つまり、本実施例に用いる画像回復フィルタは、撮像系の2つのアジムス方向間のMTFの差を減少させるフィルタである。

Figure JPOXMLDOC01-appb-M000005

 これについて図3を用いて説明する。図3は被写体が点光源の場合に本発明の画像回復フィルタを用いて処理した場合の、回復前と回復後の2つのアジムス方向におけるMTFの変化を示した図である。破線(a)、実線(b)はそれぞれ第1、第2のアジムス方向における回復前のMTFを、破線(c)、実線(d)はそれぞれ第1、第2のアジムス方向における回復後のMTFを表している。回復前のMTFは図3(a)、(b)のようにアジムス方向ごとに異なっているが、回復後のMTFは(c)、(d)のようにアジムス方向間で揃っている。図3の(a)、(b)は、例えばメリジオナル方向、サジタル方向のMTFに相当する。このように、上記画像回復フィルタによりアジムス方向間のMTFの差異を補正しながら回復することが可能となる。

 また、式5ではアジムス方向間で共通なOTF(rH(u,v))を用いたが、rH(u,v)をアジムス方向ごとのOTFの差が回復前のOTFの差よりも低減するように補正することで回転対称性を制御することができる。一例を図4に示す。図4(c)、(d)のように2つのアジムス方向間の回復後のMTFが一致しなくとも、図20(c)、(d)に対してアジムス方向間のMTF差が低減し、PSFの非対称性が低減されることになる。非対称性の補正効果を得るためには、少なくとも回復前のアジムス方向間のMTFの差よりも小さくなるように回復するフィルタにすることが望ましい。

 本実施例の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間のMTF(伝達関数の絶対値)の差が、撮像系の該2つのアジムス方向間のMTFの差よりも小さくなるように構成する。

 言い換えれば、本実施例の画像回復フィルタは、被写体が白色点光源である場合、回復画像における2つアジムス方向のスペクトルの差が、入力画像における該2つのアジムス方向のスペクトルの差よりも減少するように回復する。

 言い換えれば、本実施例の画像回復フィルタは、2つのアジムス方向で異なる周波数特性を有する伝達関数と、該2つのアジムス方向間の伝達関数の絶対値の差が減少するように補正した補正伝達関数に基づいて生成される。

 以上説明したとおり、本発明の画像回復フィルタを用いた画像回復処理を実行することにより、収差のアジムス方向ごとの位相成分とアジムス方向間の振幅成分の差異を補正することができ、収差の非対称性を低減させより高精細な画像を得ることが可能となる。

 尚、画像回復フィルタは、式5のH(u,v)の部分がアジムス方向ごとに異なるため、rH(u,v)がアジムス方向間で共通であろうが、異なっていようが、非対称な係数配列を有する。即ち、図2の断面図がアジムス方向ごとに異なる。

 尚、光学伝達関数(OTF)は撮像光学系のみならず、撮像の過程で光学伝達関数(OTF)を劣化させる要因を含めることができる。例えば、複屈折を有する光学ローパスフィルタは光学伝達関数(OTF)の周波数特性に対して高周波成分を抑制するものである。また、撮像素子の画素開口の形状や開口率も周波数特性に影響している。他にも光源の分光特性や各種波長フィルタの分光特性が挙げられる。これらを含めた広義の光学伝達関数(OTF)に基づいて、画像回復フィルタを作成することが望ましい。

 (画像回復処理工程(補正工程))
 次に、生成した画像回復フィルタを用いて、補正画像を得る方法について説明する。既に説明しているが、補正工程においては劣化画像に画像回復フィルタをコンボリューションすることにより、補正画像(回復画像)を得ることができる。ここでは、画像回復フィルタのタップ内に含まれる各画素に対してコンボリューション(畳み込み積分、積和)処理が行われる。コンボリューションは、ある画素の信号値を改善するために、その画素を画像回復フィルタの中心と一致させる。そして、画像と画像回復フィルタの対応画素ごとに画像の信号値と画像回復フィルタの係数値の積をとり、その総和を中心画素の信号値として置き換える処理である。

 入力画像に対して画像回復フィルタを作用させたり、コンボリューション処理を行ったりすることの利点は、画像回復処理で画像のフーリエ変換や逆フーリエ変換を行うことなく画像を回復することができる。一般的にコンボリューション処理の負荷は、フーリエ変換を行う負荷に比べると小さい。したがって、画像回復処理を行うにあたって、処理負担を軽減することができる。

 尚、画像回復フィルタの縦横のタップ数について既に述べたが、縦横のタップ数が必ずしも同じである必要はなく、コンボリューションの処理を行う際に考慮するようにすれば任意に変更することができる。

 その他、本発明の画像回復処理は、画像の劣化過程が線形である方が劣化前の元画像に回復するための逆過程を高精度に処理できるため、入力画像は諸々の適応的な非線形処理が行われていないことが好ましい。つまり、モザイク画像(RAW画像)に対して行うことがより好ましい。しかし、入力画像がモザイク画像であってもデモザイク画像であっても本発明の画像回復処理を適用することができる。理由は、色補間処理による劣化過程が線形であれば、画像回復フィルタの生成において、この劣化関数を考慮することで画像回復処理を行うことができるからである。また、回復の要求精度が低い場合や諸々の画像処理が行われた画像しか入手できない場合には、デモザイク画像に対して画像回復処理を行ってもボケの非対称性を低減するという効果を得ることができる。

 (画像出力工程)
 以上の処理により取得した補正画像(回復画像)を、所望のデバイスに出力する。撮像装置であれば表示部あるいは記録媒体等に出力する。画像回復処理を行った画像に対して、その他の画像処理などを行うのであれば、後の工程を実行するデバイスに画像を出力すればよい。

 ここまでに、本発明の画像処理について各工程に分けて順に説明してきたが、各工程のうち、いくつかの工程を同時に処理できる場合はまとめて処理することができる。また、各工程の前後に適宜必要な処理工程を追加することも可能である。さらに、説明に用いた式や等号記号は本発明の画像処理の具体的なアルゴリズムをこれに限定するものではなく、目的を達成しうる範囲で必要に応じた変形が可能である。

 以下、上述した画像処理を適用した実施例について図面を用いて説明する。

 図5は実施例1における撮像装置の構成概略図である。不図示の被写体像を撮像光学系101で撮像素子102に結像する。撮像素子102は、結像した光を電気信号に変換(光電変換)し、該電気信号をA/Dコンバータ103がデジタル信号に変換する。そして画像処理部104は、該デジタル信号(入力画像)に対して所定の処理と併せて画像処理を行う。ここでの所定の処理とは、例えば、倍率色収差補正、歪曲収差補正、周辺光量補正などの電子収差補正やデモザイキング、ガンマ変換、画像圧縮などの処理である。

 まず、状態検知部107から撮像装置の撮像状態情報を得る。状態検知部107はシステムコントローラ110から直接、撮像状態の情報を得ても良いし、例えば撮像光学系101に関する撮像状態情報は撮像系制御部106から得ることもできる。次に撮像状態に応じた画像回復フィルタを記憶部108から選択し、画像処理部104に入力された画像に対して画像回復処理を行う。画像回復フィルタは撮像状態に応じて記憶部108から選択したものをそのまま用いても良いし、予め用意した画像回復フィルタを補正して、
より撮像状態に適した画像回復フィルタに補正したものを用いることもできる。

 そして、画像処理部104で処理した出力画像を画像記録媒体109に所定のフォーマットで保存する。この出力画像は収差の非対称性が補正され鮮鋭度が向上した画像である。また、表示部105には、画像回復処理後の画像に表示のための所定の処理を行った画像を表示しても良いし、高速表示のために補正処理を行わない、又は簡易的な補正処理を行った画像を表示しても良い。

 上述した一連の制御はシステムコントローラ110で行われ、撮像系の機械的な駆動はシステムコントローラ110の指示により撮像系制御部106で行う。絞り101aは、Fナンバーの撮影状態設定として開口径が制御される。フォーカスレンズ101bは、撮影距離に応じてピント調整を行うために不図示のオートフォーカス(AF)機構や手動のマニュアルフォーカス機構によりレンズの位置が制御される。

 この撮像系にはローパスフィルタや赤外線カットフィルタ等の光学素子を入れても構わない。ローパスフィルタ等の光学伝達関数(OTF)の特性に影響を与える素子を用いる場合には画像回復フィルタを作成する時点でこの素子の影響を考慮すれば、より高精度に回復処理を行うことが可能である。赤外カットフィルタにおいても、分光波長の点像分布関数(PSF)の積分値であるRGBチャンネルの各PSF、特にRチャンネルのPSFに影響するため、画像回復フィルタを作成する時点で考慮するとより好ましい。

 また、撮像光学系101は撮像装置の一部として構成されているが、一眼レフカメラにあるような交換式のものであっても良い。絞りの開口径制御やマニュアルフォーカスなどの機能は撮像装置の目的に応じて用いなくても良い。

 また、光学伝達関数(OTF)は1つの撮影状態においても撮像系の像高(画像の位置)に応じて変化するので、本発明の画像回復処理を像高に応じて変更して行うことが望ましい。

 また、画像処理部104は少なくとも演算部と一時的記憶部(バッファー)を有する。上記の画像処理の各工程ごとに必要に応じて一時的に記憶部に対して画像の書き込み(記憶)および読み出しを行う。また、一時的に記憶するための記憶部は前記一時的記憶部(バッファー)に限定せず、記憶部108でも良く、記憶機能を有する記憶部のデータ容量や通信速度に応じて好適なものを適宜選択して用いることができる。その他、記憶部108には画像回復フィルタ、補正情報などのデータが記憶されている。

 図6を用いて、画像回復フィルタの選択と補正について説明する。図6には、撮像状態情報と該撮像状態情報に基づいて記憶部108に格納された複数の画像回復フィルタ(黒丸)を模式的に示す。記憶部108に格納された画像回復フィルタは、焦点位置(状態A)、絞り値(状態B)および被写体距離(合焦距離)(状態C)の3つの撮像状態を軸とした撮像状態空間中に離散的に配置されている。撮像状態空間中の各点(黒丸)の座標が、記憶部108に記憶されている画像回復フィルタを示す。尚、図6では、画像回復フィルタを各各撮像状態に対して直交した線上の格子点に配置しているが、画像回復フィルタを格子点から外して配置しても構わない。また、撮像状態の種類は、焦点距離、絞り値および被写体距離に限らず、その数も3つでなくてもよく、4つ以上の撮像状態による4次元以上の撮像状態空間を構成して、その中に画像回復フィルタを離散的に配置してもよい。

 図6において、大きな白丸で示した撮像状態が、状態検知部107により検知された実際の撮像状態であるとする。実際の撮像状態位置に対応する位置、またはその近傍に予め格納された画像回復フィルタが存在する場合には、その画像回復フィルタを選択して画像回復処理に用いることができる。際の撮像状態に対応する位置の近傍の画像回復フィルタを選択する際の1つの方法は、実際の撮像状態と画像回復フィルタが格納された複数の撮像状態との間の撮像状態空間で距離(撮像状態の相違量)を算出する。そして、最も距離の短い位置の画像回復フィルタを選択する方法である。この方法により、図6に小さな白丸で示した位置の画像回復フィルタが選択される。

 また、他の方法として、画像回復フィルタ選択に撮像状態空間中の方向による重み付けをする方法がある。すなわち、撮像状態空間中の距離と重み付けした方向の積を評価関数として、該評価関数の値が最も高い画像回復フィルタを選択する方法である。

 次に、選択された画像回復フィルタを補正することで、新たな画像回復フィルタを生成する方法について説明する。画像回復フィルタを補正するにあたり、まず実際の撮像状態と画像回復フィルタが格納された撮像状態との間の撮像状態空間での距離(状態相違量)を算出し、最も距離の短い(状態相違量が最も小さい)位置の画像回復フィルタを選択する。状態相違量が最も小さい画像回復フィルタを選択することで、画像回復フィルタの補正量も少なくすることができ、撮像状態での本来の画像回復フィルタに近い画像回復フィルタを生成することができる。

 図6では、小さな白丸で示した位置の画像回復フィルタが選択される。この選択された画像回復フィルタに対応する撮像状態と、実際の撮像状態との状態相違量ΔA、ΔB、ΔCを算出する。この状態相違量に基づいて状態補正係数を算出し、該状態補正係数を用いて選択された画像回復フィルタを補正する。これにより、実際の撮像状態に対応した画像回復フィルタを生成することができる。

 また、他の方法として、実際の撮像状態の近傍に位置する複数の画像回復フィルタを選択し、該複数の画像回復フィルタと実際の撮像状態との状態相違量に応じて補間処理することで、撮像状態に適した画像回復フィルタを生成することができる。ここでの補間処理は、2次元の画像回復フィルタ同士の対応タップの係数値を線形補間、多項式補間およびスプライン補間等を用いて補間すれば良い。

 また、画像回復フィルタの生成に用いる光学伝達関数(OTF)は、光学設計ツールや光学解析ツールを用いて計算により求めることができる。さらに、撮像光学系単体や撮像装置の実際の状態における光学伝達関数(OTF)を、計測して求めることもできる。

 図7に画像処理部104で実行される本実施例の画像回復処理の具体的なフローチャートを示す。図中の●印は画像等の画素データを少なくとも一時的に記憶するステップを表す。

 画像処理部104は画像取得工程で入力画像を取得する。次に状態検知部107から撮像状態情報を得る(ステップS72)。そして、記憶部108から撮像状態に応じた画像回復フィルタを選択し(ステップS73)、画像回復処理工程(補正工程)でこの画像回復フィルタを用いて入力画像に対して回復処理を行う(ステップS74)。

 次に画像形成に必要なその他の処理を行い回復された画像を出力する(ステップS76)。ここでのその他の処理としては、前記の補正画像がモザイク画像の状態であれば、色補間処理(デモザイキング処理)、シェーディング補正(周辺光量補正)、歪曲収差補正などがある。また、ここで説明したその他の処理を含めた諸々の画像処理は、上記フローの前後や中間に必要に応じて挿入することもできる。

 ここで、画像回復処理の流れとしてより好ましい例について図8を用いて説明する。図8は、回復処理を行う前と後のMTFの変化を表す。破線(a)、実線(b)はそれぞれ画像回復処理を行う前の第1アジムス方向、第2アジムス方向のMTFであり、破線(c)、実線(d)は回復処理を行った後の第1アジムス方向、第2アジムス方向のMTFである。図8に示すように、回復前の2つのアジムス方向のMTF(a)、(b)に対して、画像回復処理を低い回復度合いで行う。これにより、(c)、(d)のように、MTFは低い状態で、アジムス方向の差異は補正された状態になる。この状態は、収差の位相成分および収差の非対称性は補正されているが、鮮鋭度は低い状態である。言い換えれば、画像回復フィルタが逆フィルタであるときの回復画像の回復度合いを最大回復度合いとすると、最大回復度合いよりも低い回復度合いの回復画像である。好ましくは、ナイキスト周波数内において、2つのアジムス方向の回復後のMTFの周波数平均が、回復前の最大のMTFの1.5倍以下とすることが好ましい。さらに好ましくは1.2倍以下とすることが好ましい。さらに好ましくは、2つのアジムス方向のうち、MTFのより高い第1のアジムス方向は位相のみを回復し、MTFは実質的に変化させない。そして、MTFのより低い第2のアジムス方向は位相を回復し、該第2のアジムス方向のMTFは第1のアジムス方向のMTFに揃えることが好ましい。このような回復処理を行った回復画像に対してエッジ強調処理を行う。

 これにより、エッジ部のみの鮮鋭度を向上することができるので、画像全体に対して回復処理を行うよりも、ノイズ増幅を抑制することができる。

 エッジ強調処理については図9を用いて説明する。エッジ強調フィルタの一例を図9に示す。エッジ強調を行うためのフィルタは、図9に示すように、入力画像をそのまま出力するフィルタと微分フィルタの差分によって生成することができる。微分フィルタは1次微分を行うソーベルフィルタや2次微分を行うラプラシアンフィルタなどがよく知られている。図9の微分フィルタはラプラシアンフィルタである。エッジ強調フィルタは隣接画素との画素値の関係により処理を行うため、図のようにタップ数が3×3程度のフィルタがよく用いられている。

 図10に図9に示したエッジ強調フィルタを用いた場合のエッジ部分の強調効果を示す。図10A、B、Cは画像中のエッジ部の輝度をある断面で見たとき図である。横軸は座標、縦軸は振幅を表している。図10Aは、画像中のエッジ部分の輝度断面であり、これに微分フィルタでエッジ部を抽出して符号反転したものが図10Bである。元の画像図10Aに図10Bを足し合わせることで図10Cのように、エッジの傾きを急峻に強調することができる。エッジ強調処理は特にエッジの急峻な部分にのみ作用し、先鋭化するので画像全体に対してはノイズ増幅の影響が少ないという利点やフィルタのタップ数が比較的小さいため高速な処理が可能であるという利点がある。よって、低い回復度合いの画像回復処理を行った後に、エッジ強調処理をするのがより好ましい。このようにエッジ強調処理と組み合わせる場合には、図7のその他必要な処理にエッジ強調処理を含めれば良い。画像のエッジ部が強調処理が可能なその他の処理としては、シャープネス処理等が挙げられる。

 以上、各処理工程の好ましい前後関係や考慮すべき処理について説明したが、処理工程の順序に対して別の観点での制約がある場合にはこれに限るものではなく、処理上の制約条件や要求画質に応じて変更しても構わない。また、撮像装置に関する実施例を示したが、その要旨の範囲内で種々の変形及び変更が可能である。

 図11Aには、本発明の実施例2である画像処理システムの構成図を示した。画像処理装置111は、情報処理装置により構成され、実施例1にて説明した画像処理方法を該情報処理装置に実行させるための画像処理ソフトウェア(画像処理プログラム)112を搭載している。

 撮像装置113は、カメラ、顕微鏡、内視鏡、スキャナ等を含む。記憶媒体114は、半導体メモリ、ハードディスク、ネットワーク上のサーバー等、撮像により生成された画像(撮影画像データ)を記憶する。

 画像処理装置111は、撮像装置113または記憶媒体114から画像データを取得して、所定の画像処理を行った出力画像(補正画像)データを出力機器116、撮像装置113および記憶媒体114の少なくとも1つに出力する。また、出力先を画像処理装置111に内蔵された記憶部にし、該記憶部に出力画像データを保存しておくこともできる。出力機器116としては、プリンタ等が挙げられる。画像処理装置111には、モニタである表示機器115が接続されており、ユーザはこの表示機器115を通して画像処理作業を行うとともに、回復調整画像(出力画像)を評価することができる。画像処理ソフトウェア112は、画像回復処理機能および回復度合い調整機能の他に、必要に応じて現像機能やその他の画像処理機能を有している。

 また、図11Bには、別の画像処理システムの構成を示している。実施例1のように、撮像装置118単体で実施例1の画像処理を行う場合は、撮像装置118から直接、出力機器119に回復調整画像を出力することができる。

 また、出力機器119に、実施例1の画像処理方法を実行する画像処理装置を搭載することで、出力機器119で画像の特徴量に応じて調整係数を設定し、回復度合いの調整を行うことも可能である。さらに、出力機器119の出力画像の劣化特性に応じて回復度合いを調整することで、より高画質な画像を提供することができる。

 ここで、画像回復処理および回復度合いの調整を含む画像処理を行うための補正情報の内容と、その受渡しについて説明する。図12に補正情報の一例を示し、この複数の補正情報を補正情報セットと記す。各補正情報について以下に説明する。

 「補正制御情報」
 補正制御情報は、撮像装置113、画像処理装置111および出力機器116のいずれかで回復処理および回復度合い調整処理を行うかを示す設定情報と、該設定情報に応じて他の機器に伝送するデータを選択するための選択情報である。例えば、撮像装置113で回処理のみ行い、画像処理装置111で回復度合いの調整を行う場合、画像回復フィルタを画像処理装置111に伝送する必要は無いが、少なくとも撮影画像と回復画像あるいは回復成分情報(差分情報)を伝送する必要がある。

 「撮像装置情報」
 撮像装置情報は、製品名称に相当する撮像装置113の識別情報である。レンズとカメラ本体が交換可能な場合はその組み合わせを含む識別情報である。

 「撮像状態情報」
 撮像状態情報は、撮影時の撮像装置113の状態に関する情報である。例えば、焦点距離(ズーム位置)、絞り値、被写体距離(合焦距離)、ISO感度、ホワイトバランス設定等である。

 「撮像装置個別情報」
 撮像装置個別情報は、上記の撮像装置情報に対して、個々の撮像装置の識別情報である。製造誤差のばらつきにより撮像装置の光学伝達関数(OTF)は個体ばらつきがあるため、撮像装置個別情報は個々に最適な回復度合い調整パラメータを設定するために有効な情報である。回復度合い調整パラメータとは、実施例3以降で説明する回復強度調整係数μや色合成比調整係数ωである。

 「画像回復フィルタ群」
 画像回復フィルタ群は、画像回復処理で用いる画像回復フィルタのセットである。画像回復処理を行う装置が画像回復フィルタを有していない場合、別の装置(機器)から画像回復フィルタを伝送する必要がある。

 「ユーザ設定情報」
 ユーザ設定情報は、ユーザの好みに応じた回復度合いに調整するための調整パラメータまたは調整パラメータの補正関数である。ユーザは調整パラメータを可変に設定可能であるが、ユーザ設定情報を用いれば、常に初期値として好みの出力画像を得ることができる。また、ユーザ設定情報は、ユーザが調整パラメータを決定した履歴から、最も好む鮮鋭度を学習機能により更新することが好ましい。

 さらに、撮像装置の提供者(メーカー)がいくつかの鮮鋭度パターンに応じたプリセット値をネットワークを介して提供することもできる。

 上記の補正情報セットは、個々の画像データに付帯させることが好ましい。必要な補正情報を画像データに付帯させることで、実施例2の画像処理装置を搭載した機器であれば画像回復処理を行うことができる。また、補正情報セットの内容は必要に応じて、自動および手動で取捨選択可能である。

 本発明は上記実施の形態に制限されるものではなく、本発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために以下の請求項を添付する。

 実施例3では、実施例1、2の画像回復フィルタを用いてさらに好適な画像を生成する処理を行う例を説明する。本実施例の処理により、より自由度の高い画質の回復画像を生成することができる。実施例3について図面を参照しながら説明する。

 図13には、実施例において実行される画像処理方法のフローを示す。以下の説明において、記号mは、画像の色成分(例えばR,G,B)を表す。つまり、Aは(A,A,A)を示し、それぞれAのR成分、AのG成分、AのB成分を表す。Aは図13のg,f,fd,S,Sd等に相当する。

 RGBの色成分を有する入力画像gに対して、色成分ごとに選択又は生成された画像回復フィルタを用いて、第1の回復処理を行い、第1の画像fd1(第1回復画像)を生成する(第1回復画像生成手段)。

 第1の画像fd1(第1回復画像)は、OTF(光学伝達関数)の位相成分が補正されているため、鮮鋭度が向上している。また、色成分ごとにアジムス方向間のMTFの特性が相対的に揃うよう(アジムス方向間の特性の差が低減するように)に補正されているため、収差の非対称性が低減することができる。MTFは撮像系の伝達関数(撮像光学系の光学伝達関数)の振幅成分(絶対値)であるが、被写体(被写界内の物体)が白色点光源の場合、MTFを画像のスペクトルと捉えることができる。この場合、第1の画像fd1の画像の第1アジムス方向のスペクトルの周波数平均と第2アジムス方向のスペクトルの周波数平均の差が、回復前の画像の第1アジムス方向のスペクトルの周波数平均と第2アジムス方向のスペクトルの周波数平均の差より減少する。言い換えると、画像回復後の回復画像の2つのアジムス方向におけるスペクトルの平均値の差が、画像回復前の画像の同じ2つのアジムス方向におけるスペクトルの平均値の差よりよりも小さくなる。以下、第1の回復画像を生成する処理を第1の(画像)回復処理を記す。

 ただし、この画像にはノイズ、リンギングや偽色等が含まれている。偽色とは画像回復処理により生じ得る色付きである。

 一方、入力画像gに対して色成分ごとに第2の回復処理を行い、第2の画像fd2(第2回復画像)を得る。第2の画像fd2は、第1の画像fd1よりも回復度合い(MTFの回復量)を低く設定する。より限定すれば、被写体が白色点光源の場合、第2の画像fd2の特定の色成分の画像のスペクトルの周波数平均が、第1の画像fd1の該特定の色成分の画像のスペクトルの周波数平均よりも低い。以下、第2の回復画像を生成する処理を第2の(画像)回復処理と記す。

 ただし、第2の回復処理も、第1の回復処理のようにアジムス方向間のMTF特性の差が、回復前より低減するように回復することがより好ましい。

 尚、第2の画像fd2としては上述した第2の回復処理を行わずに、入力画像を用いることもできる。

 第1の画像fd1から第2の画像fd2を式6のように対応する画素ごとに信号値を減算することで、第1の画像fd1と第2の画像fd2の色成分ごとの差分情報としての回復成分情報S(差分情報)を生成する。

Figure JPOXMLDOC01-appb-M000006

 そして、式7のように、色成分ごとに回復成分情報Sを回復強度調整係数μに応じて第2の画像fd2に合成することで、回復調整画像(出力画像)としての補正画像fを得る。

Figure JPOXMLDOC01-appb-M000007

 補正画像fは、式7から分かるように、回復強度調整係数μが0のときに第2の画像fd2として得られ、回復強度調整係数μが1のときに第1の画像fd1として得られる。また、回復強度調整係数μが0から1の間においては、第2の画像fd2から第1の画像fd1の間で連続的に回復度合いが調整される。

 ここで、回復成分情報Sの演算量(加算量)を調整することで回復度合いが制御できる。尚、回復強度調整係数μは負の係数であってもよい。

 回復強度調整係数μを(以下、μとも記す)調整可能にすることで、画像回復に伴う弊害を抑制するために、回復度合いと弊害発生リスクのバランスを制御することができる。

 また、本実施例の方法では、回復度合い、すなわち回復強度調整係数μを変更しても、画像回復フィルタの再計算や画像回復フィルタと画像の再コンボリューション処理を行う必要が無いので、画像処理の負担を軽減することができる。

 次に、上記フローの順に、各工程を具体的な処理について説明する。

 「入力画像g
 入力画像gは、実施例1の画像取得工程により説明した入力画像と同じである。

 「画像回復処理」
 画像回復処理に用いる画像回復フィルタは実施例1の画像回復フィルタ生成工程に説明した画像回復フィルタと同じである。

 ここで、第1の画像fd1mを得るための画像回復処理における画像回復フィルタの収差補正の特性は実施例1の式4において説明を行った。回復画像の位相成分が零になるよう補正されることが望ましいので、[rOTF]は位相成分を持たないようにすればよい。

 「第1の画像fd1
 振幅成分および位相成分を回復する画像回復フィルタを用いた画像回復処理により、第1の画像fd1が得られる。従来における画像回復では、この第1の画像fd1を回復画像(補正画像)として出力している。第1の画像fd1が必要な画質を満たしていれば、補正画像fとして用いることができるが、実際には上記のようにノイズが増幅されていたり、リンギングや偽色が含まれている。ノイズに関しては、予め画像回復フィルタの回復度合いを適正に設定することで抑制できるが、リンギングや偽色に関しては、その発生量の予測が困難であるため、回復画像を評価して再度、回復度合いを調整する必要がある。

 第1の画像を得るまでの画像処理のフローチャートを図14に示す。図中の●印は画像データをメモリ等に記憶する工程を表している。画像取得工程で、入力画像を取得する。画像回復フィルタ取得工程で、入力画像の撮影された条件に対応する画像回復フィルタを選択、または補正して取得する。画像回復工程では、上記の第1の画像回復処理により画像の位相成分と振幅成分の劣化に対して、位相成分は零を目標値に補正し、振幅成分は向上するとともにアジムス方向間でその差が低減するように補正する画像回復フィルタ(第1の画像回復フィルタ)を用いる。以上の処理により、収差の非対称性が低減された第1の画像fd1を得ることができる。

 「第2の画像fd2
 第2の画像fd2は、第1の画像fd1よりも低い回復度合いの画像回復フィルタ(第2の画像回復フィルタ)を用いて画像回復処理を行う。より好ましくは、第1の画像fd1のようにアジムス方向間の振幅特性が相対的に揃うように回復するのがよい。第2の画像fd2は、例えば図8に示したように、回復前の2つのアジムス方向のMTF、破線(a)、実線(b)に対して、低回復ゲインでアジムス方向間のMTFを揃えることで、破線(c)、実線(d)のように、非対称収差を補正することができる。

 この状態は、収差の位相成分およびMTFのアジムス依存性は補正されているが、MTFそのものが低い、即ち鮮鋭度が低い状態である。第1の画像fd1、第2の画像fd2の互いの回復度合いは異なるが、ともに非対称収差が補正されていれば、回復度合いを変更しても常に非対称収差が補正された補正画像(回復調整画像)を得ることができる。

 また、第2の画像fd2として入力画像をそのまま用いることもできる。この場合、回復強度調整係数μを調整し、回復度合いを最も低くした状態では補正画像として入力画像が得ることができる。また、回復度合いを高くするに従って、MTFが向上し鮮鋭度が向上するとともに、アジムス方向間のMTFの差も減少されていくので、収差の非対称収差も補正された良質な画像を得ることができる。第2の画像fd2mを得る工程のフローチャートも図14と同じであり、第1の画像fd1mの工程画像回復フィルタの回復度合いが異なるのみであるので、説明は省略する。

 「回復成分情報S
 第1の画像fd1から第2の画像fd2を式6のように減算する(色成分および画素ごとの減算処理を行う)ことで、色成分ごとの回復成分情報Sを生成することができる。第1の画像fd1および第2の画像fd2は、撮像系(撮像光学系)で劣化した位相成分(位相成分の劣化)が揃うように補正されている場合、位相成分の状態は実質的に等しいが、振幅成分の状態は異なっている。したがって、回復成分情報Sは、第1の画像fd1と第2の画像fd2の振幅成分の差分情報ということができる。

 ここで、位相成分の状態は、第1の画像fd1および第2の画像fd2ともに、撮像系による位相成分の劣化が十分に除去された状態として揃っていることが望ましい。一方、振幅成分の状態は、後述する回復強度調整係数により回復度合いを制御できるため、異なった状態である必要がある。

 このため、回復成分情報Sは、第2の画像fd2の位相ずれ以外の収差成分と画像回復処理により発生したノイズの増加成分やリンギングの成分、さらに偽色の成分も含んでいる。

 「回復強度調整係数μおよび補正画像f
 上記、アジムス方向間のMTFの差を低減する画像回復フィルタを用いて回復処理を行った回復画像は、収差の非対称性が改善されている。しかし、一般的に被写体は奥行きがあり、実際に撮像された状態で発生している収差特性と画像回復フィルタが想定している収差特性とに相違がある場合には、回復画像にアーティファクトとしてリンギング等の弊害が発生することがある。

 さらに、2つの色成分ごとの回復度合いが想定しているものと異なると、回復画像に色付き、すなわち偽色が発生してしまうことがある。この偽色も、ノイズやリンギングと同様にアーティファクトの1つである。

 図22には、回復画像に発生した偽色の例を示している。図中の破線部に偽色が発生している。偽色Aは、製造誤差によりエッジ部が回復処理前の画像よりも色づいた状態になることで発生している。偽色Bは、太陽の反射光が強いために発生した輝度飽和により、輝度飽和部の周辺が回復処理前の画像よりも色づいた状態になることで発生している。偽色Cは、ピントずれによりエッジ部が回復処理前の画像よりも色づいた状態になることで発生している。

 そこで、回復度合い(回復強度)を調整可能な回復強度調整係数μを用いる。これにより、画像回復に伴う色付き(偽色)、ノイズ、リンギング等の弊害発生リスクと回復度合いとのバランスを制御することが可能となる。図22に示した例のように、画像回復フィルタの補正特性に対応した収差特性と画像の収差特性が異なっている場合においても、偽色やリンギング等のアーティファクトの発生を抑えた良質な画質をえることができる。以下、回復強度調整係数μについて説明する。

 式7に示すように、色成分ごとに回復成分情報Sを回復強度調整係数μに応じて第2の画像fd2に合成することで、補正画像fを得る。補正画像fは回復強度調整係数μが0のときに第2の画像fd2として得られ、回復強度調整係数μが1のときに第1の画像fd1として得られる。また、回復強度調整係数μが0から1の間においては、第2の画像fd2から第1の画像fd1の間で連続的に回復度合いを調整することができる。

 つまり、収差の非対称性を補正しつつ、画像回復処理による弊害(偽色、リンギング、ノイズの増幅)を考慮しながら鮮鋭度を高めることができるので、より質の高い画像を得ることができる。

 また、ユーザが所望の画質を有する画像を処理負担の増大を抑えつつ提供することができる。

 第2の画像fd2と回復成分情報Sは共に位相成分と収差の非対称性が補正され、振幅成分(ぼけ量)のみが異なる状態である。このため、回復度合いの調整量に応じて位相成分や収差の非対称性が変動することは無く、収差の非対称性が補正された状態を維持できる。また、回復強度調整係数μの基本範囲は、0≦μ≦1であるが、μ>1とすることで強調補正した画像を得ることもできる。つまり、回復強度調整係数μは、可変に設定可能である。

 さらに、回復強度調整係数μを色成分ごとに変更すると、色成分ごとに回復度合いを調整することができる。これは、被写体の照明光源の分光変動や撮像光学系の製造誤差等の要因で、色成分ごとに光学伝達関数(OTF)が変化し、収差の非対称性のバランスが変化した場合に、色成分ごとの回復度合いの強弱を調整するのに有効である。照明光源の分光特性が変化することは、波長ごとの強度比が変化することであるため、色成分ごとに収差量が変化する。したがって、撮影時の分光特性に応じて回復強度調整係数μを色成分ごとに設定することで、各色成分に適した補正画像fを得ることができる。

 また、撮像光学系に製造誤差がある場合の影響の1つに、例えば、画像の左右対称な位置で劣化度合いが異なることがあり、この劣化度合いの差異は、画像上でのぼけ成分やその相対的な色付き成分の差異として現れる。ぼけ成分については、回復強度調整係数μを画像の位置によるぼけ量の変動に応じて設定することで、製造誤差を吸収することができる。また、色付きは、画像の位置による色付き量の変動に応じて回復強度調整係数μを色成分ごとに設定することで、製造誤差を吸収することができる。

 出力画像の画質の評価は目的に応じて異なる。例えば、ポートレートの場合、ノイズやリンギングは非常に邪魔な存在である。一方、監視カメラなどで、車のナンバープレートから数字を読み取りたい場合にはノイズやリンギングがあっても、数字を特定することが最重要となる。また、何らかの要因でノイズやリンギングや偽色等の弊害が画像に大きく現れた場合、出力画像として回復度合いが低くても十分に弊害の無い画像を出力できることは出力画像の保障として重要である。これらの場合に対して、回復強度調整係数μを調整することで対応を行うことができる。

 また、一般の写真撮影においても、収差が残っていることでフレアが存在する柔らか味のある画像から収差を除去した鮮鋭な画像まで出力画像として要求される画質はユーザや被写体によって様々である。この場合に対しても回復強度調整係数μを調整することで対応を行うことができる。

 また、式6を変形して、第2の画像fd2から第1の画像fd1を減算して回復成分情報を抽出してもよい。この場合、式6を変形して、第2の画像fd2からこの回復成分情報を回復強度調整係数に応じて減算(これも「合成」に含む)しても、数式上は等価であり、同じ効果が得られる。

 上記のように回復度合いを変更するためには、従来は画像回復フィルタを生成する際のパラメータを変更する必要があったため、回復度合いを変更する度に画像回復フィルタを再計算する必要があった。さらに、再計算した画像回復フィルタを用いて入力画像に対してコンボリューション処理を行う必要があった。これは画像処理を高速に行うための大きな障壁となっていた。

 しかし、本実施例の画像処理方法では、回復度合いを調整する場合にも、画像の合成比を変化させるだけであるので、画像回復フィルタを再計算する必要がない。さらに、調整パラメータの変更の度に入力画像に対してコンボリューション処理を行う必要もない。また、回復度合いを下げても収差の非対称性が少なくとも点対称な状態に補正されているため、倍率収差の非対称性が除去された状態で変動が無く、コマ収差の特徴である像の流れも補正されている。

 従来の画像処理方法と本実施例の画像処理方法とを、図15および図21を用いて比較する。図21は従来の画像処理方法(画像回復処理)のフローである。撮影画像を入力画像とし、初期値としての回復パラメータを用いて画像回復フィルタを生成するか、初期値として予め用意された画像回復フィルタを用いて入力画像に対して画像回復処理を行う。この回復画像を評価して、そのまま出力画像とするか再度、回復度合いを変更するかを判定する。回復度合いを変更する場合には、回復パラメータを変更し、画像回復フィルタを再計算し、再度、入力画像に対して画像回復処理を行う。これを繰り返して所望の画像が得られたら回復画像(出力画像)として出力する。

 一方、図15は本実施例の画像処理方法(画像回復処理)のフローである。撮影画像を入力画像とし、初期値としての回復パラメータを用いて画像回復フィルタを生成するか、初期値として予め用意された画像回復フィルタを用いて入力画像に対して画像回復処理を行う。この回復画像に対して予め用意された調整パラメータか、ユーザが設定した調整パラメータか、画像情報から自動的に決定された調整パラメータを用いて画像合成処理を行い、回復調整画像とする。この回復調整画像を評価して、そのまま補正画像(出力画像)とするか再度、回復度合いを変更するかを判定する。回復度合いを変更する場合には、調整パラメータを変更し、再度、画像合成処理を行う。ここにいう調整パラメータが、上述した回復強度調整係数μである。

 このように、従来の画像回復処理と本実施例の画像回復処理では、調整時の画像回復フィルタの再計算の必要の有無および画像回復処理である入力画像と画像回復フィルタのコンボリューション処理の必要の有無の点で大きく異なる。つまり、回復度合いいを変更しても、画像回復フィルタの再計算や画像回復フィルタと画像の再コンボリューション処理を行う必要が無いため、画像処理の負荷を低減し高速な処理を行うことができる。

 また、出力画像としての採用の可否の判定や、回復度合いの変更に伴う調整パラメータの変更は、ユーザが主観的な評価に基づいて行ってもよいし、予め画像の評価関数を設定しておいて自動的に行ってもよい。

 さらに、入力画像の画素の特徴量に応じて自動的に調整パラメータを変更することもできる。「画素の特徴量」とは、入力画像の部分的なコントラストや輝度レベル等である。画像の部分的なコントラストの高低を検出する方法として、例えば微分フィルタを用いる方法が知られている。これを用いることで、画像中のエッジ部とそうでない部分を分離することができる。エッジ部の鮮鋭度は画像全体の鮮鋭度に影響するので、エッジ部については回復度合いが高くなるように調整パラメータを設定する。一方、エッジ部でない比較的濃淡の少ない部分は回復度合いを高くしても画像全体の鮮鋭度には影響せず、むしろこの部分のノイズを増強してしまうと弊害となるので、回復度合いが低くなるように調整パラメータを設定する。

 また、輝度レベルが低い部分は、本来の画像信号とノイズ信号のSN比が低いため、回復度合いを高くするとノイズが目立ち易いので、回復度合いが低くなるように調整パラメータを設定する。一方、輝度飽和をしている部分は、本来の画像信号が撮像素子のレンジの上限でクリップ(制限)されており、ここでは収差の状態も想定している状態とは大きく異なるので、画像回復による弊害が発生し易い。そこで、回復度合いが低くなるように調整パラメータを設定することで弊害を回避することができる。

 その他にも、被写体を認識して被写体の種別に応じた回復度合いの調整を行うことができる。例として、近年のデジタルカメラには顔認識機能が搭載されている。しかし、画像回復により人物の顔にノイズや偽色などのアーティファクトが発生すると、非常に不自然な画像になってしまうため、回復度合いを適度に調整することが好ましい。

 また、画素の特徴量に応じて調整パラメータを変更することは、画像の位置によって調整パラメータを変更することを意味している。本実施例では、画像合成処理において画像を画素単位で合成するので、その際の混合比を変更するだけで比較的容易に調整することができる。このように画素単位で回復度合いを調整できることも本実施例の特徴の1つである。

 調整パラメータの設定値は、他にもISO感度、焦点距離(ズーム位置)、被写体距離(合焦距離)、絞り値等の撮像状態に応じて変更することもできる。

 また、本発明の画像処理方法の基本的なフローを説明したが、ここで説明した工程のうちいくつかの工程を一括して同時に行ってもよい。また、各工程の前後に適宜必要な処理工程を追加することも可能である。さらに、説明に用いた式や等号記号は本発明の画像処理方法の具体的なアルゴリズムをこれに限定するものではなく、必要に応じて変形が可能である。

 本実施例の画像回復処理(画像処理方法)は、図5に示した画像処理部104で実行される。図16に、画像処理部104で実行される本実施例の画像回復処理に関わる具体的なフローを示す。図中の●印は画像等の画素データを少なくとも一時的に記憶するステップを表す。

 画像処理部104は、画像取得工程(画像取得ステップ)で入力画像を取得する。次に、画像処理部104は、状態検知部107から撮像状態情報を得て、記憶部108から撮像状態に応じた画像回復フィルタを選択する。そして、画像回復工程(画像回復ステップ)で、画像処理部104は、画像回復フィルタを用いて入力画像に対して回復処理を行う。画像回復工程では、振幅成分および位相成分を補正(回復)した第1の画像と、位相成分のみを補正(回復)した第2の画像とを生成する。

 回復成分情報生成工程(回復成分情報生成ステップ)では、画像処理部104は、第1の画像と第2の画像の各画素の信号値の差分から回復成分情報を生成する。回復成分情報は、第1の画像と第2の画像との差分情報であるため、値としては正の値や負の値を持っている。

 そして、この回復成分情報生成工程(差分情報取得工程)では、画像処理部104は、回復強度調整係数μとしての調整パラメータの設定値を取得する。調整パラメータの設定方法としては、撮像状態や像高に応じて予め用意された設定値から自動的に選択して用いることができる。また、画像から画素の特徴量を判別して自動的に調整パラメータを変更して設定することができる。または、ユーザが任意に設定することもできる。

 次に、回復画像生成工程(回復調整画像生成工程)で、画像処理部104は、調整パラメータに応じて回復成分情報を第2の画像に合成して補正画像を生成する。具体的には、回復成分情報の各画素値に回復強度調整係数μを乗じた画素値を画素ごとに第2の画像に加えることで補正画像(回復調整画像)を得る。

 次に、画像処理部104は、画像形成に必要なその他の処理を行い、回復された画像(補正画像)を出力する。ここでの「その他の処理」としては、補正処理を受けた画像がモザイク画像であれば、色補間処理(デモザイキング処理)を行う。その他、エッジ強調処理、シェーディング補正(周辺光量補正)、歪曲収差補正等がある。また、ここで説明したその他の処理を含めた種々の画像処理は、上記フローの前後や中間に必要に応じて挿入することもできる。

 以上、各処理工程の好ましい前後関係や考慮すべき処理について説明したが、処理工程の順序はこれに限るものではなく、処理上の制約条件や要求画質に応じて変更しても構わない。また、本実施例では、補正処理において位相成分のみを回復する処理を行っているが、前述したように、ノイズ増幅が許容範囲である場合には振幅成分に多少の変化を与えてもよい。

 本実施例では、画像回復処理に伴う偽色の発生をさらに抑制する画像処理方法について説明する。図17は、色成分ごとの回復成分情報Sを色合成比調整係数ωに応じて色合成することで、色成分ごとの色合成回復成分情報Sdを生成し、この色合成回復成分情報Sdを第2の画像Sに合成する処理のフローを示している。

 色合成比調整係数ωは、各色成分について全ての色成分の回復成分情報(差分量)Sをこの色合成比調整係数ωに応じて色合成することにより色合成回復成分情報(差分情報)Sdを生成するための係数であり、色成分の混合比である。したがって、回復成分情報Sから色合成回復成分情報Sdを生成する処理は、式12およびこれを色成分m,nについて展開して記した式13として表現することができる。

Figure JPOXMLDOC01-appb-M000008

Figure JPOXMLDOC01-appb-M000009

 次に、式13の9つの色合成比調整係数ωの決定方法について説明する。はじめに、色合成比調整係数ωの2つの例について説明する。

 1つ目は、回復強度調整係数μを1とした場合に、補正画像として第1の画像fd1と同じ画像を得るための色合成比調整係数ωである。式13の色合成比調整係数ωの対角成分を1として残りの成分を0として単位行列をとすると、色合成回復成分情報Sdは、それ自身の色成分の回復成分情報Sと等しくなる。これは、補正画像fを第1の画像fd1と同じ画像として出力する場合の係数設定である。この場合、前述した通り、補正画像としては収差成分を最大限に補正しようとするものであるが、同時に偽色の発生リスクも大きい。

 2つ目は、偽色を発生させないための色合成比調整係数ωである。式13の色合成比調整係数ωの全要素を1/3とおくと、色合成回復成分情報Sdは全ての色成分の回復成分情報Sを平均化したものになり、色合成回復成分情報Sd,Sd,Sdともに同じものになる。色合成回復成分情報Sdが全ての色成分で等しいということは、この後の工程で第2の画像fd2に色合成回復成分情報Sdを合成する際に、色成分に関する付加情報の相違が無いことになるので、偽色が発生しない。

 ただし、各色成分の収差情報を平均化しているので、1つ目の第1の画像fd1を出力画像とする場合に比べて回復度合い、すなわち鮮鋭度は低下することになる。しかし、回復成分情報Sを平均化しても、各色成分の回復成分情報S,S,Sの間には少なからず正の相関(類似性)があるので、入力画像gに対して補正画像の鮮鋭度は向上している。したがって、これが偽色の発生リスクを除去した回復条件となる。

 上では、偽色の発生リスクを最大化した場合と最小化した場合の色合成比調整係数ωの設定について説明した。この色合成比調整係数ωを連続的に変化させることで、偽色の発生リスクと回復度合いのバランスを連続的に調整することができる。

 式13の色合成比調整係数ωを単位行列とした場合と全て1/3とした場合以外の中間的な色合成比調整係数ωの決定方法の例を以下に説明する。色合成比調整係数ωは、9つの設定自由度を有しているため、各要素値の設定が難しい場合がある。色合成比調整係数ωは可変に設定可能であり、例えば、撮像装置や画像処理システム上で一般ユーザがこの色合成比調整係数ωを可変に設定する場合がその一つの例である。

 この困難性を解決するために、色合成比調整係数ωの各要素間に従属関係を持たせて、制御する自由度を低減する。ただし、この従属関係は、回復度合いと偽色の発生リスクとのバランスを調整できる関係である必要がある。また、撮像装置や画像処理システムを提供する側としても好適な調整パラメータを少ない自由度で制御できることは、装置の開発工程や生産工程での作業効率を向上することができる。

 色合成比調整係数ωの決定方法の例として、はじめに2つの制約条件を設ける。1つ目の制約条件は、式14のように、式13の行列ωの行ごとの和をそれぞれ1とするものである。これは、例えばR成分の色合成回復成分情報Sdを生成するための回復成分情報S,S,Sの混合比を正規化していることを意味している。このように混合比を正規化することで、異なる色合成回復成分情報Sd間でそれぞれ如何なる比率で重み付けされているかが容易に比較できるようになる。

Figure JPOXMLDOC01-appb-M000010

 2つ目の制約条件は、式15のように、式13の行列ωの列ごとの和を1とするものである。これは、各色合成回復成分情報Sd,Sd,Sdを生成する際に、回復成分情報S,S,Sを各色成分に分配してそれぞれ使い果たすことを意味している。

Figure JPOXMLDOC01-appb-M000011

 上記の2つの制約条件を設けると、色合成比調整係数ωは式16のように表現することができる。

Figure JPOXMLDOC01-appb-M000012

 さらに、本実施例の目的は、回復度合いを確保しながら偽色の発生リスクを抑制することであるので、各色合成回復成分情報Sdは色成分間での類似性が高い、すなわち相違が小さい方が好ましいことになる。前述したω=1/3とした場合の説明は、各色合成回復成分情報Sdの色成分間での相違が無いために偽色の発生リスクが最小、すなわち偽色の発生が無い状態であった。したがって、ある色成分の回復成分情報Sを各色成分の色合成回復成分情報Sdにできるだけ均等に配分すればよいことになるので、式16の各列の分散が小さい方が偽色の発生リスクを低減できる。

 これに基づいて、式16の各列の分散を最小化すると、式17のように記すことができる。式17は、設定パラメータがωの1つになっているので、回復度合いと偽色の発生リスクのバランスの調整を容易に制御することができる。

Figure JPOXMLDOC01-appb-M000013

 式17においてω=1とすると、行列ωは単位行列となり、回復度合いと偽色の発生リスクがともに最大になる。また、ω=1/3とすると、行列ωは全ての要素が1/3となり、回復度合いが低下するとともに偽色の発生リスクが無くなる。したがって、1/3≦ω≦1の範囲で色合成比調整係数ωを低下させていくと、偽色の発生リスクを低減していく調整が可能となる。

 ここでは、色合成比調整係数ωの決定方法の例を示したが、決定方法に関してはこれに限るものではない。例えば、行列ωの全要素を0(ゼロ)にすると、色合成回復成分情報Sdが全ての色成分で0(ゼロ)になるので、補正画像fは第2の画像fd2そのものとなる。このように、0≦ω≦1の範囲で色合成比調整係数ωを調整することで、位相成分のみ回復した第2の画像fd2から、振幅成分および位相成分を回復した第1の画像fd1までの範囲で出力画像を調整して得ることができる。また、式14を1よりも大きく設定することで、さらに補正を強調させることも可能である。

 このように、行列ωの各要素の設定自由度は1つに限定せず、9つの自由度や別の制約条件に基づいて低減された自由度で調整することもできる。例えば、式16に基づいて設定すれば自由度は6である。

 また、色合成比調整係数ωの範囲についても、上記した補正画像fとして入力画像や強調画像を得る場合のように、1/3≦ω≦1に限定せず設定することもできる。すなわち、式17は、回復度合いと偽色の発生リスクを1つの設定パラメータωで容易に決定するための例にすぎない。本実施例の本質は、回復成分情報Sを色成分間で合成し、色合成回復成分情報Sdの色成分間の類似性を制御することで、偽色の発生リスクを抑制することである。

 また、式18のように色合成比調整係数ωと回復成分調整係数μを組み合わせて制御することもできる。これらを組み合わせることにより、色合成比調整係数ωは1/3≦ω≦1の範囲として偽色の発生を抑制し、回復成分調整係数μの範囲を0≦ω≦1として回復度合いを制御することが可能である。

Figure JPOXMLDOC01-appb-M000014
 回復成分調整係数μを色成分で共通にして、式19のようにすることもできる。

Figure JPOXMLDOC01-appb-M000015

 また、上記のように色成分間の回復成分情報Sを色合成する際には、各画素に複数の色成分情報を持っていることが必要になる。したがって、上記の画像回復処理を各画素に1つの色成分情報しか持たないモザイク画像で行う場合には、この色合成処理を行う前に色補間処理(デモザイキング処理)を行う必要がある。そのために、各色成分の回復成分情報Sに対して色補間処理を行うか、あるいは第1の画像fd1と第2の画像fd2に対してそれぞれ色補間処理を行うことで、各画素に複数の色成分情報をもった回復成分情報Sを生成すればよい。

 以上説明したように、色合成比調整係数ωを用いることで、収差の非対称性を補正しつつ、画像回復処理により生じてしまう偽色の発生リスクも低減することが可能となり、より良質な画像を得ることができる。

 尚、実施例3、実施例4の回復成分情報を用いた回復度合いの調整を行う場合は、図●に示した補正情報に以下の情報を加えて、記憶部に格納してもよい。あるいは、以下の説明のような情報に替えて記憶部に格納してもよい。また、全ての補正情報を記憶部に格納しておく必要はなく、本発明の画像回復処理を行う装置やシステムの形態に合わせて、必要な情報を適宜記憶部に対して書込み、読み込みを行えばよい。

 「画像回復フィルタ群」
 画像回復フィルタ群は、画像回復処理に用いる画像回復フィルタのセットである。画像回復処理を行う装置が画像回復フィルタを有していない場合は、別の装置(機器)から画像回復フィルタを伝送する必要がある。

 「回復成分情報」
 すでに画像回復処理が行われ、回復成分情報が生成されている場合、位相が補正された第2の画像と回復成分情報を別の機器に伝送すれば、該別の機器で回復度合い調整処理を行うことができる。

 「調整パラメータ群」
 調整パラメータ群は、色合成比調整係数ωおよび回復強度調整係数μのセットである。色合成比調整係数ωおよび回復強度調整係数μは、前述したように、画像上の位置に応じて変更可能である。また、撮影状態に応じて変更することも可能である。調整パラメータ群のデータとしては、調整係数そのもののテーブルデータでもよいし、調整係数を決定するための関数でもよい。

 「ユーザ設定情報」
 ユーザ設定情報は、ユーザの好みに応じた回復度合いに調整するための調整パラメータまたは調整パラメータの補正関数である。ユーザは調整パラメータを可変に設定可能であるが、ユーザ設定情報を用いれば、常に初期値として好みの出力画像を得ることができる。また、ユーザ設定情報は、ユーザが調整パラメータを決定した履歴から最も好む鮮鋭度を学習機能により更新することが好ましい。

 さらに、撮像装置の提供者(メーカー)がいくつかの鮮鋭度パターンに応じたプリセット値をネットワークを介して提供することもできる。

 上記の補正情報セットは、個々の画像データに付帯させることが好ましい。必要な補正情報を画像データに付帯させることで、画像処理装置を搭載した装置又は機器は画像回復処理および回復度合い調整処理を行うことができる。また、補正情報セットの内容は必要に応じて、自動および手動で取捨選択可能である。例えば、別の機器で回復度合い調整処理を行う場合に、補正情報セットに第2の画像と回復成分情報が含まれていれば、画像回復フィルタ群は基本的には必要ない。

 以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。

 本発明は上記実施の形態に制限されるものではなく、本発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために以下の請求項を添付する。

 101 撮像光学系
 102 撮像素子
 104 画像処理部
 106 撮像系制御部
 108 記憶部
 110 システムコントローラ

Claims (19)

  1.  入力画像を取得する画像取得手段と、
    被写体像を前記入力画像として形成するために用いた撮像系の伝達関数に基づいて生成または選択された画像回復フィルタを用いて前記入力画像を回復し、回復画像を生成する画像回復手段とを有し、
     前記画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくすることを特徴とする画像処理装置。
  2.  前記画像回復手段は、取得された画像の画素に対して前記画像回復フィルタを畳み込み積分することにより画像回復を行うことを特徴とする請求項1に記載の画像処理装置。
  3.  前記画像回復フィルタは、2つのアジムス方向で異なる周波数特性を有する伝達関数と、該2つのアジムス方向間の伝達関数の絶対値の差が減少するように補正した補正伝達関数に基づいて生成されることを特徴とする請求項1または2に記載の画像処理装置。
  4.  撮像系により形成された被写体像を光電変換して撮影画像を生成する撮像素子と、
     前記撮影画像を前記入力画像として処理する請求項1乃至3いずれか1項に記載の画像処理装置とを有することを特徴とする撮像装置。
  5.  撮像系により生成された画像を入力画像として取得する工程と、
     前記撮像系の伝達関数に基づいて生成または選択された画像回復フィルタを用いて前記入力画像を回復し、回復画像を生成する工程とを有し、
     前記画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の差よりも小さくすることを特徴とする画像処理方法。
  6.  撮像系により生成された画像を入力画像として取得する画像取得工程と、
     前記撮像系の伝達関数に基づいて生成または選択された画像回復フィルタを用いて前記入力画像を回復し、回復画像を生成する画像回復工程とを情報処理装置に実行させる画像処理プログラムであって、
     前記画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくすることを特徴とする画像処理プログラム。
  7.  被写体像を入力画像として取得する撮像系の伝達関数に基づいた第1の画像回復フィルタと該入力画像を演算することにより第1回復画像を生成する第1回復画像生成手段と、
     前記入力画像と前記第1回復画像との差分情報を取得する差分情報取得手段と、
     前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
     前記第1の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復することを特徴とする画像処理装置。
  8.  被写体像を入力画像として取得する撮像系の伝達関数に基づいた第1の画像回復フィルタと該入力画像を演算することにより生成された第1回復画像と、
     前記撮像系の伝達関数に基づいた第2の画像回復フィルタと前記入力画像を演算することにより生成された第2回復画像と、の差分情報を取得する差分情報取得手段と、
     前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成手段とを有し、
     前記第1の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復し、
     前記第2の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復し、且つ、
     前記第2回復画像の回復度合いは前記第1回復画像の回復度合いよりも低いことを特徴とする画像処理装置。
  9.  前記第1の画像回復フィルタは、2つのアジムス方向で異なる周波数特性を有する伝達関数と、該2つのアジムス方向間の伝達関数の絶対値の差が減少するように補正した補正伝達関数に基づいて生成されることを特徴とする請求項7または8に記載の画像処理装置。
  10.  前記回復調整画像生成手段は、前記撮像系と前記第1の画像回復フィルタとを含む系の2つのアジムス方向間の伝達関数の振幅成分の差が、前記撮像系の該2つのアジムス方向間の伝達関数の振幅成分の差よりも減少するように回復することを特徴とする請求項7乃至9いずれか1項に記載の画像処理装置。
  11.  前記調整係数は、前記第1回復画像に対する前記入力画像の演算量を調整する回復強度調整係数であることを特徴とする請求項7乃至10いずれか1項に記載の画像処理装置。
  12.  前記差分情報を、前記第1回復画像と前記入力画像の色成分ごとの差分量を前記色成分の混合比を示す色合成比調整係数に応じて合成することで取得し、
     前記回復強度調整係数を、前記色成分ごとに設定することを特徴とする請求項11に記載の画像処理装置。
  13.  前記調整係数は、前記第1回復画像に対する前記第2回復画像の演算量を調整する回復強度調整係数であることを特徴とする請求項8乃至10いずれか1項に記載の画像処理装置。
  14.  前記差分情報を前記第1回復画像と前記第2回復画像の色成分ごとの差分量を前記色成分の混合比を示す色合成比調整係数に応じて合成することで取得し、
     前記回復強度調整係数を、前記色成分ごとに設定することを特徴とする請求項13に記載の画像処理装置。
  15.  撮影画像を前記入力画像として処理する請求項7乃至14いずれか1項に記載の画像処理装置とを有することを特徴とする撮像装置。
  16.  被写体像を入力画像として取得する撮像系の伝達関数に基づいた第1の画像回復フィルタと該入力画像を演算することにより生成された第1回復画像と、前記入力画像との差分情報を取得する差分情報取得工程と、
     前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
     前記第1の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復することを特徴とする画像処理プログラム。
  17.  被写体像を入力画像として取得する撮像系の伝達関数に基づいた第1の画像回復フィルタと該入力画像を演算することにより生成された第1回復画像と、
    前記撮像系の伝達関数に基づいた第2の画像回復フィルタと前記入力画像を演算することにより生成された第2回復画像と、の差分情報を取得する差分情報取得工程と、
     前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する回復調整画像生成工程とを情報処理装置に実行させる画像処理プログラムであって、
     前記第1の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復し、
     前記第2の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復し、且つ、
     前記第2回復画像の回復度合いは前記第1回復画像の回復度合いよりも低いことを特徴とする画像処理プログラム。
  18.  入力画像を取得する工程と、
     前記入力画像を取得するために用いた撮像系の伝達関数に基づいた第1の画像回復フィルタと前記入力画像を用いて生成された第1回復画像と、前記入力画像との差分情報を取得する工程と、
     前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
     前記第1の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復することを特徴とする画像処理方法。
  19.  入力画像として取得する工程と、
     前記入力画像を取得するために用いた撮像系の伝達関数に基づいた第1の画像回復フィルタと前記入力画像を演算することにより生成された第1回復画像と、
     前記撮像系の伝達関数に基づいた第2の画像回復フィルタと前記入力画像を演算することにより生成された第2回復画像と、の差分情報を取得する工程と、
     前記差分情報を調整係数に応じて前記入力画像に合成することで回復調整画像を生成する工程とを有し、
     前記第1の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復し、
     前記第2の画像回復フィルタは、被写体から回復画像を得る際の2つのアジムス方向間の伝達関数の絶対値の差が、前記撮像系の該2つのアジムス方向間の伝達関数の絶対値の差よりも小さくするように回復し、且つ、
     前記第2回復画像の回復度合いは前記第1回復画像の回復度合いよりも低いことを特徴とする画像処理方法。
PCT/JP2011/055610 2010-03-31 2011-03-10 画像処理装置、およびそれを用いた撮像装置 WO2011122284A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2010082832 2010-03-31
PCT/JP2010/055865 WO2011121763A1 (ja) 2010-03-31 2010-03-31 画像処理装置、およびそれを用いた撮像装置
JP2010-082832 2010-03-31
JPPCT/JP2010/055865 2010-03-31

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012508186A JP5188651B2 (ja) 2010-03-31 2011-03-10 画像処理装置、およびそれを用いた撮像装置
CN201180017173.9A CN102822863B (zh) 2010-03-31 2011-03-10 图像处理设备和使用该图像处理设备的图像拾取设备
US13/204,453 US8514304B2 (en) 2010-03-31 2011-08-05 Image processing device and image pickup device using the same
US13/849,781 US8692909B2 (en) 2010-03-31 2013-03-25 Image processing device and image pickup device using the same

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US13/204,453 Continuation US8514304B2 (en) 2010-03-31 2011-08-05 Image processing device and image pickup device using the same

Publications (1)

Publication Number Publication Date
WO2011122284A1 true WO2011122284A1 (ja) 2011-10-06

Family

ID=44712008

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2011/055610 WO2011122284A1 (ja) 2010-03-31 2011-03-10 画像処理装置、およびそれを用いた撮像装置

Country Status (4)

Country Link
US (2) US8514304B2 (ja)
JP (1) JP5188651B2 (ja)
CN (1) CN102822863B (ja)
WO (1) WO2011122284A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013250946A (ja) * 2012-06-04 2013-12-12 Canon Inc 画像処理装置、画像処理方法、および、プログラム
JP2014115790A (ja) * 2012-12-07 2014-06-26 Fujitsu Ltd 画像処理装置、情報処理方法及びプログラム
JP2014150498A (ja) * 2013-02-04 2014-08-21 Canon Inc 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
JP2015091067A (ja) * 2013-11-06 2015-05-11 株式会社リコー 撮像システムおよび撮像方法
JP2015097380A (ja) * 2013-10-09 2015-05-21 キヤノン株式会社 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム
JP2016051982A (ja) * 2014-08-29 2016-04-11 株式会社ニコン 画像処理装置、カメラおよび画像処理プログラム
US9563941B2 (en) 2013-10-09 2017-02-07 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
WO2018037920A1 (ja) * 2016-08-26 2018-03-01 日本電気株式会社 画像処理装置、画像処理方法及びコンピュータ読み取り可能記録媒体

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011122283A1 (ja) * 2010-03-31 2011-10-06 キヤノン株式会社 画像処理装置、およびそれを用いた撮像装置
JP4931266B2 (ja) * 2010-08-27 2012-05-16 キヤノン株式会社 画像処理方法、画像処理装置および画像処理プログラム
JP5274623B2 (ja) * 2011-07-04 2013-08-28 キヤノン株式会社 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法
DE102011078631A1 (de) * 2011-07-05 2013-01-10 Robert Bosch Gmbh Anordnung und Verfahren zum Bestimmen einer Abbildungsabweichung einer Kamera
JP2013066648A (ja) * 2011-09-26 2013-04-18 Olympus Corp 内視鏡用画像処理装置及び内視鏡装置
US9030594B1 (en) * 2012-04-19 2015-05-12 Southern Methodist University Applying phase transfer function
JP2014138196A (ja) * 2013-01-15 2014-07-28 Canon Inc 画像処理装置、撮像装置および画像処理プログラム
US9674431B2 (en) 2013-02-01 2017-06-06 Canon Kabushiki Kaisha Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium
EP2951987A4 (en) * 2013-02-01 2016-08-10 Canon Kk Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium
CN104995911B (zh) 2013-02-15 2017-02-22 富士胶片株式会社 图像处理装置、摄影装置、滤波器生成装置、图像复原方法以及程序
WO2014136322A1 (ja) * 2013-03-04 2014-09-12 富士フイルム株式会社 復元フィルタ生成装置及び方法、画像処理装置及び方法、撮像装置、プログラム並びに記録媒体
JP5844940B2 (ja) * 2013-03-18 2016-01-20 富士フイルム株式会社 復元フィルタ生成装置及び方法、画像処理装置及び方法、撮像装置、プログラム、並びに記録媒体
CN105103534B (zh) * 2013-03-27 2018-06-22 富士胶片株式会社 摄像装置及校准方法
CN104704806B (zh) * 2013-03-28 2017-08-29 富士胶片株式会社 图像处理装置、摄像装置以及图像处理方法
JP6236908B2 (ja) * 2013-06-21 2017-11-29 株式会社リコー 撮像装置、撮像システムおよび撮像方法
WO2015012040A1 (ja) * 2013-07-25 2015-01-29 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
CN105432068B (zh) * 2013-08-01 2018-08-24 富士胶片株式会社 摄像装置、摄像方法及图像处理装置
WO2015015966A1 (ja) 2013-08-01 2015-02-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JP6335589B2 (ja) * 2014-03-31 2018-05-30 キヤノン株式会社 距離検出装置、撮像装置、距離検出方法及び視差量検出装置
CN106134177B (en) * 2014-03-31 2019-05-28 富士胶片株式会社 Image processing apparatus, camera, image processing method and image processing program
CN106165392B (zh) * 2014-03-31 2019-01-22 富士胶片株式会社 图像处理装置、摄影装置以及图像处理方法
JP6415113B2 (ja) * 2014-05-29 2018-10-31 オリンパス株式会社 撮像装置、画像処理方法
JP6071974B2 (ja) * 2014-10-21 2017-02-01 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP6347763B2 (ja) * 2015-05-19 2018-06-27 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法および画像処理プログラム
JP2017041672A (ja) * 2015-08-17 2017-02-23 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2017163282A (ja) * 2016-03-08 2017-09-14 キヤノン株式会社 画像処理装置、光学機器、画像処理方法、画像処理プログラム、および記録媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003078812A (ja) * 2001-05-29 2003-03-14 Hewlett Packard Co <Hp> デジタル画像における動きによるぼけを低減する方法
JP2007036799A (ja) * 2005-07-28 2007-02-08 Kyocera Corp 画像処理装置
JP2009021905A (ja) * 2007-07-13 2009-01-29 Hoya Corp 輪郭強調装置
JP2009271725A (ja) * 2008-05-07 2009-11-19 Tokyo Institute Of Technology 画像復元装置、画像復元方法及び画像復元プログラム
JP2009289079A (ja) * 2008-05-29 2009-12-10 Nittoh Kogaku Kk 画像出力装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7336845B2 (en) * 2003-04-21 2008-02-26 Transpacific Ip Ltd. Improving modulation transfer function of an image
JPWO2005069216A1 (ja) * 2004-01-15 2010-02-25 松下電器産業株式会社 光学的伝達関数の測定方法、画像復元方法、およびデジタル撮像装置
IL160152A (en) * 2004-02-01 2011-06-30 Rafael Advanced Defense Sys Super-resolution image processing
JP4475143B2 (ja) * 2004-11-29 2010-06-09 セイコーエプソン株式会社 画像補正装置
US7486835B2 (en) * 2005-03-17 2009-02-03 Delphi Technologies, Inc. System and method for enhancing an image
JP4787959B2 (ja) 2006-01-10 2011-10-05 国立大学法人東京工業大学 画像復元フィルタ及びそれを用いた画像復元方法
JP4453734B2 (ja) * 2007-09-21 2010-04-21 ソニー株式会社 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置
JP4813446B2 (ja) * 2007-11-16 2011-11-09 富士フイルム株式会社 撮像システム、この撮像システムを備えた撮像装置、携帯端末機器、車載機器、および医療機器、並びに撮像システムの製造方法
US8077247B2 (en) * 2007-12-07 2011-12-13 Fujinon Corporation Imaging system, imaging apparatus, portable terminal apparatus, onboard apparatus, medical apparatus and method of manufacturing the imaging system
US8111318B2 (en) * 2007-12-07 2012-02-07 Fujinon Corporation Imaging system, imaging apparatus, portable terminal apparatus, onboard apparatus, medical apparatus and method of manufacturing the imaging system
JP5157015B2 (ja) * 2008-02-04 2013-03-06 富士フイルム株式会社 画像処理装置、画像処理方法、撮像装置、撮像方法、およびプログラム
JP5078148B2 (ja) * 2008-03-10 2012-11-21 株式会社リコー 画像処理装置及び画像撮像装置
JP5273371B2 (ja) * 2008-12-24 2013-08-28 株式会社リコー 画像処理装置及び方法、並びに車載カメラ装置
US8259210B2 (en) * 2010-03-01 2012-09-04 Fujifilm Corporation Imaging lens and imaging system
WO2011122283A1 (ja) * 2010-03-31 2011-10-06 キヤノン株式会社 画像処理装置、およびそれを用いた撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003078812A (ja) * 2001-05-29 2003-03-14 Hewlett Packard Co <Hp> デジタル画像における動きによるぼけを低減する方法
JP2007036799A (ja) * 2005-07-28 2007-02-08 Kyocera Corp 画像処理装置
JP2009021905A (ja) * 2007-07-13 2009-01-29 Hoya Corp 輪郭強調装置
JP2009271725A (ja) * 2008-05-07 2009-11-19 Tokyo Institute Of Technology 画像復元装置、画像復元方法及び画像復元プログラム
JP2009289079A (ja) * 2008-05-29 2009-12-10 Nittoh Kogaku Kk 画像出力装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013250946A (ja) * 2012-06-04 2013-12-12 Canon Inc 画像処理装置、画像処理方法、および、プログラム
JP2014115790A (ja) * 2012-12-07 2014-06-26 Fujitsu Ltd 画像処理装置、情報処理方法及びプログラム
JP2014150498A (ja) * 2013-02-04 2014-08-21 Canon Inc 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
US9167168B2 (en) 2013-02-04 2015-10-20 Canon Kabushiki Kaisha Image processing method, image processing apparatus, non-transitory computer-readable medium, and image-pickup apparatus
JP2015097380A (ja) * 2013-10-09 2015-05-21 キヤノン株式会社 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム
US9563941B2 (en) 2013-10-09 2017-02-07 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
US9747672B2 (en) 2013-10-09 2017-08-29 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
JP2015091067A (ja) * 2013-11-06 2015-05-11 株式会社リコー 撮像システムおよび撮像方法
JP2016051982A (ja) * 2014-08-29 2016-04-11 株式会社ニコン 画像処理装置、カメラおよび画像処理プログラム
WO2018037920A1 (ja) * 2016-08-26 2018-03-01 日本電気株式会社 画像処理装置、画像処理方法及びコンピュータ読み取り可能記録媒体

Also Published As

Publication number Publication date
US8514304B2 (en) 2013-08-20
CN102822863A (zh) 2012-12-12
JPWO2011122284A1 (ja) 2013-07-08
CN102822863B (zh) 2015-11-25
US20130208150A1 (en) 2013-08-15
JP5188651B2 (ja) 2013-04-24
US20110285879A1 (en) 2011-11-24
US8692909B2 (en) 2014-04-08

Similar Documents

Publication Publication Date Title
US9361662B2 (en) Systems and methods for synthesizing high resolution images using images captured by an array of independently controllable imagers
US8830350B2 (en) Image processing apparatus, image processing method, and computer program
US8805070B2 (en) Image processing apparatus and image processing method
RU2496253C1 (ru) Устройство обработки изображения и способ обработки изображения для корректировки хроматической аберрации
CN101490694B (zh) 马赛克域中的图像增强
JP4770154B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
US7683950B2 (en) Method and apparatus for correcting a channel dependent color aberration in a digital image
JP4703710B2 (ja) オブジェクト追跡を用いたデジタル画像の手ぶれ補正装置及び方法
JP4453734B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置
EP2342893B1 (en) Image processing method, image processing apparatus, and image pickup apparatus
JP4388909B2 (ja) 画素欠陥補正装置
US7529424B2 (en) Correction of optical distortion by image processing
EP1766569A1 (en) Methods, system, program modules and computer program product for restoration of color components in an image model
US8830351B2 (en) Image processing method and image processing apparatus for image restoration to reduce a detected color shift
JP2007148500A (ja) 画像処理装置および画像処理方法
US8300120B2 (en) Image processing apparatus and method of processing image for reducing noise of the image
EP1528793B1 (en) Image processing apparatus, image-taking system and image processing method
JP4898761B2 (ja) オブジェクト追跡を用いたデジタル画像の手ぶれ補正装置および方法
JP2002300461A (ja) 画像復元装置、画像復元方法、プログラム及び記録媒体
US8605163B2 (en) Image processing method, image processing apparatus, image pickup apparatus, and storage medium capable of suppressing generation of false color caused by image restoration
US8199229B2 (en) Color filter, image processing apparatus, image processing method, image-capture apparatus, image-capture method, program and recording medium
JP2002369071A (ja) 画像処理方法および、それを実装したデジタルカメラおよび、プログラム
US8798389B2 (en) Image processing method, image processing apparatus, and image pickup apparatus for correcting degradation component of image
JP5409829B2 (ja) 画像処理装置、撮像装置、画像処理方法、および、プログラム
US8692909B2 (en) Image processing device and image pickup device using the same

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201180017173.9

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11762524

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2012508186

Country of ref document: JP

NENP Non-entry into the national phase in:

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 11762524

Country of ref document: EP

Kind code of ref document: A1