JP6929141B2 - 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 - Google Patents
画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 Download PDFInfo
- Publication number
- JP6929141B2 JP6929141B2 JP2017116375A JP2017116375A JP6929141B2 JP 6929141 B2 JP6929141 B2 JP 6929141B2 JP 2017116375 A JP2017116375 A JP 2017116375A JP 2017116375 A JP2017116375 A JP 2017116375A JP 6929141 B2 JP6929141 B2 JP 6929141B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image recovery
- recovery
- filter
- optical system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
ここで、Re(OTF)およびIm(OTF)はそれぞれ、光学伝達関数OTFの実部および虚部を表す。振幅成分MTFおよび位相成分PTFの劣化を補正する方法として、撮像光学系の光学伝達関数OTFの情報を用いて補正する方法が知られている。以下、撮像光学系の光学伝達関数(OTF)の情報を用いて撮影画像の劣化を補正する処理を画像回復処理という。また、画像回復の方法の一つとして、光学伝達関数(OTF)の逆特性を有する関数(画像回復フィルタ)を入力画像に対して畳み込む(コンボリューション)方法が知られている。画像回復処理を効果的に行うには、撮像光学系のより正確なOTF情報を得る必要がある。OTFを得る方法は、例えば撮像光学系の設計値情報があれば、その情報から計算によって求めることが可能である。また、点光源を撮影し、その強度分布にフーリエ変換を施すことでも求めることが可能である。更に、回折においては理論的に導かれた計算式から求めることもできる。
入力画像は、撮像光学系と光学部材とを介して撮像素子で受光することで得られたデジタル画像(撮影画像)であり、レンズと各種の光学フィルタ類を含む撮像光学系の収差による光学伝達関数OTFと、光学部材の回折によるOTFにより劣化している。撮像光学系は、レンズだけでなく曲率を有するミラー(反射面)を用いて構成することもできる。入力画像は、例えばRGB色成分の情報を有するRAW画像であるが、これに限定されるものではない。入力画像や出力画像には、光学部材の有無、レンズの焦点距離、絞り値、および、撮影距離などの撮影条件や、この画像を補正するための各種の補正情報を付帯することができる。
続いて、画像回復処理の概要について説明する。劣化画像(撮影画像)をg(x,y)、元の画像をf(x,y)、光学伝達関数OTFのフーリエペアである点像分布関数PSFをh(x,y)とするとき、以下の式(1)が成立する。
式(1)において、*はコンボリューション(畳み込み積分、積和)、(x,y)は撮影画像上の座標である。
式(2)において、Hは点像分布関数PSF(h)をフーリエ変換することにより得られた光学伝達関数OTFであり、G、Fはそれぞれ劣化画像をg、元の画像fをフーリエ変換して得られた関数である。(u,v)は2次元周波数面での座標、すなわち周波数である。
そして、F(u,v)、すなわちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことにより、元の画像f(x,y)が回復画像として得られる。
ここで、R(x,y)は画像回復フィルタと呼ばれる。画像が2次元画像である場合、一般的に、画像回復フィルタRも画像の各画素に対応したタップ(セル)を有し、2次元のフィルタ値の分布を有する。また、画像回復フィルタRのタップ数(セルの数)は、一般的に多いほど回復精度が向上する。このため、要求画質、画像処理能力、PSFの広がり幅、収差の特性などに応じて実現可能なタップ数が設定される。画像回復フィルタRは、少なくとも収差や回折の特性を反映している必要があるため、従来の水平垂直各3タップ程度のエッジ強調フィルタ(ハイパスフィルタ)などとは異なる。画像回復フィルタRは光学伝達関数OTFに基づいて設定されるため、振幅成分および位相成分の劣化の両方を高精度に補正することができる。
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v) … (5−2)
ここで、Nはノイズ成分である。
瞳関数は式(10)で定義される。
式(10)において、|f(ξ,η)|は瞳の振幅透過率、W(ξ,η)は波面収差である。物点および像点の広がりが物体距離Zo、像距離Ziに比べ十分小さく、また開口も小さいとき、点像振幅分布ha(x,y)を求め、次いで点像強度分布|ha(x,y)|2を算出することは従来からよく行われている。しかし逆に、点像強度分布が与えられたとき、これから瞳関数を求めることは容易ではない。ここから、瞳の振幅透過率|f(ξ,η)|と点像強度分布|ha(x,y)|2 が既知であるときに、瞳関数の位相部分に相当する波面収差 W(ξ,η)を計算する方法を説明する。以下、図16に示される計算アルゴリズムに従って説明する。
続いてステップS2において、式(11)をフーリエ変換する。この結果得られた関数をF1(x,y)とし、その位相部分をφ(x,y)とすると、以下の式(12)のように表すことができる。
続いてステップS3において、式(12)において位相項はそのままにして絶対値部分を既知の点像強度分布から算出された|ha(x,y)|で置き換える。このようにして、以下の式(13)で表されるように、像面でF1´(x,y)を得る。
続いてステップS4において、式(13)を逆フーリエ変換する。得られた関数f1´(ξ,η)は、その位相をkW1(ξ,η)とすると、以下の式(14)で表すことができる。
続いてステップS5において、式(14)の位相項を保持したまま、絶対値部分を既知の|f(ξ,η)|で置き換え、以下の式(15)を得る。
以上が1回のループであり、同様の演算により、以下の式(16)で表されるような瞳面での自乗誤差が得られる。
そして、式(16)の値が所定値以下に収束するまでステップS2乃至ステップS5を繰り返す。このようにω回のループ演算を繰り返した後、回復された波面収差Wω(ξ,η)を得ることができる。波面収差は波動関数であり、これをPSFへ変換する。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
104b 画像処理手段(画像回復手段)
108 記憶部(記憶手段)
112 演算部(画像回復手段)
Claims (13)
- 絞り値に応じた複数の画像回復フィルタを記憶する記憶手段と、
前記複数の画像回復フィルタから撮影条件に応じた複数の第1画像回復フィルタを取得する取得手段と、
前記複数の第1画像回復フィルタに基づいて所定の演算処理を行うことにより、領域によって透過率が変化する光学部材を含む撮像光学系を介して得られた画像の回復処理を行う画像回復手段と、を有することを特徴とする画像処理装置。 - 前記複数の第1画像回復フィルタは、前記光学部材を含まない撮像光学系に関する画像回復フィルタであることを特徴とする請求項1に記載の画像処理装置。
- 前記光学部材は、透明部材を基板として、光学面の中心から径方向に沿って前記透過率が連続的に変化するアポダイジングフィルタであることを特徴とする請求項1または2に記載の画像処理装置。
- 前記画像回復手段は、
前記複数の第1画像回復フィルタに基づいて前記所定の演算処理を行うことにより、前記光学部材を含む前記撮像光学系に関する第2画像回復フィルタを生成し、
前記第2画像回復フィルタを用いて前記画像の回復処理を行うことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 - 前記画像回復手段は、
前記複数の第1画像回復フィルタに基づいて複数の中間画像をそれぞれ生成し、
前記複数の中間画像のそれぞれを複数の領域に分割し、
分割された前記複数の領域に対して重み付けを行い、
重み付け後の前記複数の領域を結合することにより前記画像の回復処理を行うことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 - 前記記憶手段は、前記光学部材の前記透過率を量子化して得られた透過率に対応する前記絞り値ごとに、前記複数の画像回復フィルタを記憶していることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
- 前記画像回復手段は、前記画像を撮影した際の絞り値に応じて選択された前記複数の第1画像回復フィルタに基づいて、前記画像の回復処理を行うことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
- 前記画像回復手段は、回折による前記画像の劣化を低減するように前記回復処理を行うことを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。
- 前記撮影条件は、撮影の際における絞り値、撮影距離、および、焦点距離を含むことを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。
- 撮像光学系を介して形成される光学像を光電変換して画像データを出力する撮像素子と、
絞り値に応じた複数の画像回復フィルタを記憶する記憶手段と、
前記複数の画像回復フィルタから撮影条件に応じた複数の第1画像回復フィルタを取得する取得手段と、
前記複数の第1画像回復フィルタに基づいて所定の演算処理を行うことにより、領域によって透過率が変化する光学部材を含む撮像光学系を介して得られた前記画像データに対応する撮影画像の回復処理を行う画像回復手段と、を有することを特徴とする撮像装置。 - 絞り値に応じた複数の画像回復フィルタから撮影条件に応じた複数の第1画像回復フィルタを取得するステップと、
前記複数の第1画像回復フィルタに基づいて所定の演算処理を行うことにより、領域によって透過率が変化する光学部材を含む撮像光学系を介して得られた画像の回復処理を行うステップと、を有することを特徴とする画像処理方法。 - 絞り値に応じた複数の画像回復フィルタから撮影条件に応じた複数の第1画像回復フィルタを取得するステップと、
前記複数の第1画像回復フィルタに基づいて所定の演算処理を行うことにより、領域によって透過率が変化する光学部材を含む撮像光学系を介して得られた画像の回復処理を行うステップと、をコンピュータに実行させることを特徴とするプログラム。 - 請求項12に記載のプログラムを記憶していることを特徴とする記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/677,135 US10290082B2 (en) | 2016-08-23 | 2017-08-15 | Image processing apparatus, imaging apparatus, image processing method, and storage medium for performing a restoration process for an image |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016162752 | 2016-08-23 | ||
JP2016162752 | 2016-08-23 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018033126A JP2018033126A (ja) | 2018-03-01 |
JP2018033126A5 JP2018033126A5 (ja) | 2020-08-06 |
JP6929141B2 true JP6929141B2 (ja) | 2021-09-01 |
Family
ID=61302910
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017116375A Active JP6929141B2 (ja) | 2016-08-23 | 2017-06-14 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6929141B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6974599B2 (ja) * | 2018-04-17 | 2021-12-01 | 富士フイルム株式会社 | 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体 |
WO2019202983A1 (ja) * | 2018-04-17 | 2019-10-24 | 富士フイルム株式会社 | 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体 |
CN113139911A (zh) * | 2020-01-20 | 2021-07-20 | 北京迈格威科技有限公司 | 图像处理方法及装置、图像处理模型的训练方法及装置 |
-
2017
- 2017-06-14 JP JP2017116375A patent/JP6929141B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018033126A (ja) | 2018-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8830351B2 (en) | Image processing method and image processing apparatus for image restoration to reduce a detected color shift | |
EP3093818B1 (en) | Image processing apparatus that performs image restoration processing, method of controlling the same, and storage medium | |
US9185272B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and storage medium storing image processing program | |
JP5264968B2 (ja) | 画像処理装置、画像処理方法、撮像装置、および、画像処理プログラム | |
JP5959976B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
US8849055B2 (en) | Image processing apparatus and method | |
EP3169053B1 (en) | Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
US10290082B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium for performing a restoration process for an image | |
JP6594101B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP6929141B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP5653464B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6821526B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、プログラム | |
JP5645981B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5425135B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5425136B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
US9674431B2 (en) | Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP2015198380A (ja) | 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法 | |
JP2022161527A (ja) | 画像処理方法、画像処理装置、撮像装置およびプログラム | |
JP2016092676A (ja) | 画像処理装置、撮像装置、カメラシステムおよび画像処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200609 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200609 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210512 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210706 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210810 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6929141 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |