JP6821526B2 - 画像処理方法、画像処理装置、撮像装置、および、プログラム - Google Patents
画像処理方法、画像処理装置、撮像装置、および、プログラム Download PDFInfo
- Publication number
- JP6821526B2 JP6821526B2 JP2017156780A JP2017156780A JP6821526B2 JP 6821526 B2 JP6821526 B2 JP 6821526B2 JP 2017156780 A JP2017156780 A JP 2017156780A JP 2017156780 A JP2017156780 A JP 2017156780A JP 6821526 B2 JP6821526 B2 JP 6821526B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- recovery
- information
- optical system
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 213
- 238000012545 processing Methods 0.000 title claims description 139
- 238000003672 processing method Methods 0.000 title claims description 24
- 238000011084 recovery Methods 0.000 claims description 250
- 230000003287 optical effect Effects 0.000 claims description 237
- 238000012546 transfer Methods 0.000 claims description 93
- 230000004075 alteration Effects 0.000 claims description 92
- 238000000034 method Methods 0.000 claims description 30
- 238000005315 distribution function Methods 0.000 claims description 15
- 238000012937 correction Methods 0.000 description 38
- 230000008569 process Effects 0.000 description 14
- 230000006866 deterioration Effects 0.000 description 11
- 230000007246 mechanism Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000001131 transforming effect Effects 0.000 description 5
- 206010010071 Coma Diseases 0.000 description 3
- 230000002411 adverse Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000009931 harmful effect Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003595 spectral effect Effects 0.000 description 2
- 201000009310 astigmatism Diseases 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000004033 diameter control Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/58—Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/48—Picture signal generators
- H04N1/486—Picture signal generators with separate detectors, each detector being used for one specific colour component
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Geometry (AREA)
Description
ここで、Re(OTF)およびIm(OTF)はそれぞれ、光学伝達関数OTFの実部および虚部を表す。このように、撮像光学系の光学伝達関数OTFは、画像の振幅成分MTFと位相成分PTFに劣化を与えるため、劣化画像は被写体の各点がコマ収差のように非対称にぼけた状態になっている。また倍率色収差は、光の波長ごとの結像倍率の相違により結像位置がずれ、これを撮像装置の分光特性に応じて例えばRGBの色成分として取得することで発生する。従って、RGB間で結像位置がずれ、各色成分内にも波長ごとの結像位置のずれ、すなわち位相ずれによる像の広がりが発生する。
撮影画像は、撮像光学系を介して撮像素子で受光することで得られたデジタル画像であり、レンズと各種の光学フィルタ類を含む撮像光学系の収差による光学伝達関数OTFにより劣化している。撮像光学系は、レンズだけでなく曲率を有するミラー(反射面)を用いて構成することもできる。
続いて、画像回復処理の概要について説明する。撮影画像(劣化画像)をg(x,y)、もとの画像をf(x,y)、光学伝達関数OTFのフーリエペアである点像分布関数PSFをh(x,y)としたとき、以下の式(1)が成立する。
ここで、*はコンボリューション(畳み込み積分、積和)、(x,y)は撮影画像上の座標である。
ここで、Hは点像分布関数PSF(h)をフーリエ変換することにより得られた光学伝達関数OTFであり、G,Fはそれぞれ劣化した画像g、もとの画像fをフーリエ変換して得られた関数である。(u,v)は2次元周波数面での座標、すなわち周波数である。
そして、F(u,v)、すなわちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことにより、もとの画像f(x,y)が回復画像として得られる。
ここで、R(x,y)は画像回復フィルタと呼ばれる。画像が2次元画像である場合、一般的に、画像回復フィルタRも画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、画像回復フィルタRのタップ数(セルの数)は、一般的に多いほど回復精度が向上する。このため、要求画質、画像処理能力、収差の特性等に応じて実現可能なタップ数が設定される。画像回復フィルタRは、少なくとも収差の特性を反映している必要があるため、従来の水平垂直各3タップ程度のエッジ強調フィルタなどとは異なる。画像回復フィルタRは光学伝達関数OTFに基づいて設定されるため、振幅成分および位相成分の劣化の両方を高精度に補正することができる。
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v) … (
5−2)
ここで、Nはノイズ成分である。
式(7)において、mの値を変化させることにより撮影画像g(x,y)に対する補正成分u(x,y)の回復度合い(回復ゲイン)、すなわち補正量を調整することができる。なお、mの値は撮像光学系の像高(画像の位置)に応じて変化させてもよいし、または一定の値であってもよい。
また、補正成分u(x,y)は、式(8)の右辺を変形して、以下の式(9)のように表すことができる。
式(9)において、δはデルタ関数(理想点像)である。ここで用いるデルタ関数は、PSF(x,y)とタップ数が等しく、中央のタップの値が1で、それ以外のタップの値が全て0のデータである。
すなわち、式(10)における中括弧[]内の部分をフィルタ(画像回復フィルタ)として撮影画像g(x,y)に畳み込むことにより、アンシャープマスク処理が可能である。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
122 収差情報取得部
123 フィルタ処理部
Claims (13)
- 撮像面に対して主平面が傾斜している撮像光学系を介した撮像により生成された撮影画像を取得するステップと、
前記撮像光学系の傾斜情報を取得するステップと、
前記撮像光学系の収差情報を取得するステップと、
前記傾斜情報に応じて前記撮影画像の回復ゲインを設定し、前記回復ゲインおよび前記収差情報に基づいて前記撮影画像に対する画像回復処理を行うステップと、を有し、
前記収差情報は、前記主平面が前記撮像面に対して傾斜していない状態での前記撮像光学系の収差情報であり、
前記傾斜情報は前記撮像面に対する前記撮像光学系の主平面の傾斜角に関する情報を含み、
前記傾斜情報の示す前記傾斜角が第1の傾斜角の場合、前記回復ゲインは第1の回復ゲインに設定され、
前記傾斜情報の示す前記傾斜角が前記第1の傾斜角よりも大きい第2の傾斜角の場合、前記回復ゲインは、前記第1の回復ゲインよりも小さい第2の回復ゲインに設定されることを特徴とする画像処理方法。 - 前記撮影が行われた際の撮影条件を取得するステップを更に有し、
前記収差情報は、前記撮影条件に対応する収差情報であることを特徴とする請求項1に記載の画像処理方法。 - 前記収差情報を取得するステップは、前記撮影画像の中心または前記撮像光学系の光軸を通りかつ該光軸に垂直な一方向に関する収差情報を、前記撮影画像の中心または前記撮像光学系の前記光軸の周りに回転させて展開するステップを含むことを特徴とする請求項1または2に記載の画像処理方法。
- 前記収差情報に基づいてフィルタを作成するステップを更に有し、
前記画像回復処理を行うステップは、前記フィルタを用いた画像回復処理を行うステップを含むことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理方法。 - 前記画像回復処理を行うステップは、前記傾斜情報および撮影時の絞り値に応じて前記回復ゲインを決定するステップを含むことを特徴とする請求項1乃至4のいずれか1項に記載の画像処理方法。
- 前記画像回復処理を行うステップにおいて、
前記絞り値が第1の絞り値の場合、前記回復ゲインを第5の回復ゲインに設定し、
前記絞り値が前記第1の絞り値よりも小さい第2の絞り値の場合、前記回復ゲインを、前記第5の回復ゲインよりも小さい第6の回復ゲインに設定することを特徴とする請求項5に記載の画像処理方法。 - 前記画像回復処理を行うステップにおいて、
前記絞り値が前記撮像光学系の最小絞り値である場合、前記回復ゲインを第7の回復ゲインに設定し、
前記絞り値が前記撮像光学系の最小絞り値よりも大きい場合、前記回復ゲインを、前記第7の回復ゲインよりも大きい第8の回復ゲインに設定することを特徴とする請求項5に記載の画像処理方法。 - 前記画像回復処理を行うステップにおいて、
前記絞り値が所定のしきい値よりも大きい場合、前記回復ゲインを第9の回復ゲインに設定し、前記絞り値が前記所定のしきい値以下である場合、前記回復ゲインを前記第9の回復ゲインよりも小さい第10の回復ゲインに設定することを特徴とする請求項5に記載の画像処理方法。 - 前記収差情報は、前記撮像光学系の光学伝達関数であることを特徴とする請求項1乃至8のいずれか1項に記載の画像処理方法。
- 前記収差情報は、前記撮像光学系の点像分布関数であり、
前記画像回復処理を行うステップは、前記点像分布関数を用いて前記撮影画像に対するアンシャープマスク処理を行うステップを含むことを特徴とする請求項1乃至8のいずれか1項に記載の画像処理方法。 - 撮像面に対して主平面が傾斜している撮像光学系を介した撮像により生成された撮影画像を取得する画像取得部と、
前記撮像光学系の収差情報を取得する収差情報取得部と、
前記撮像光学系の傾斜情報を取得し、前記傾斜情報に応じて前記撮影画像の回復ゲインを設定し、前記回復ゲインおよび前記収差情報に基づいて前記撮影画像に対する画像回復処理を行う画像回復処理部と、を有し、
前記収差情報は、前記主平面が前記撮像面に対して傾斜していない状態での前記撮像光学系の収差情報であり、
前記傾斜情報は前記撮像面に対する前記撮像光学系の主平面の傾斜角に関する情報を含み、
前記傾斜情報の示す前記傾斜角が第1の傾斜角の場合、前記回復ゲインは第1の回復ゲインに設定され、
前記傾斜情報の示す前記傾斜角が前記第1の傾斜角よりも大きい第2の傾斜角の場合、前記回復ゲインは、前記第1の回復ゲインよりも小さい第2の回復ゲインに設定されることを特徴とする画像処理装置。 - 撮像光学系を介して形成された光学像を光電変換する撮像素子と、
請求項11に記載の画像処理装置と、を有することを特徴とする撮像装置。 - 撮像面に対して主平面が傾斜している撮像光学系を介した撮像により生成された撮影画像を取得するステップと、
前記撮像光学系の傾斜情報を取得するステップと、
前記撮像光学系の収差情報を取得するステップと、
前記傾斜情報に応じて前記撮影画像の回復ゲインを設定し、前記回復ゲインおよび前記収差情報に基づいて前記撮影画像に対する画像回復処理を行うステップと、をコンピュータに実行させるプログラムであって、
前記収差情報は、前記主平面が前記撮像面に対して傾斜していない状態での前記撮像光学系の収差情報であり、
前記傾斜情報は前記撮像面に対する前記撮像光学系の主平面の傾斜角に関する情報を含み、
前記傾斜情報の示す前記傾斜角が第1の傾斜角の場合、前記回復ゲインは第1の回復ゲインに設定され、
前記傾斜情報の示す前記傾斜角が前記第1の傾斜角よりも大きい第2の傾斜角の場合、前記回復ゲインは、前記第1の回復ゲインよりも小さい第2の回復ゲインに設定されることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017156780A JP6821526B2 (ja) | 2017-08-15 | 2017-08-15 | 画像処理方法、画像処理装置、撮像装置、および、プログラム |
US16/100,112 US10810714B2 (en) | 2017-08-15 | 2018-08-09 | Image restoration processing utilizing settings for image correction |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017156780A JP6821526B2 (ja) | 2017-08-15 | 2017-08-15 | 画像処理方法、画像処理装置、撮像装置、および、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019036115A JP2019036115A (ja) | 2019-03-07 |
JP6821526B2 true JP6821526B2 (ja) | 2021-01-27 |
Family
ID=65360604
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017156780A Active JP6821526B2 (ja) | 2017-08-15 | 2017-08-15 | 画像処理方法、画像処理装置、撮像装置、および、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10810714B2 (ja) |
JP (1) | JP6821526B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR3071344B1 (fr) * | 2017-09-20 | 2019-09-13 | Idemia Identity And Security | Procede de determination d'une fonction d'etalement de point d'un systeme d'imagerie |
DE102019126419A1 (de) * | 2019-05-08 | 2020-11-12 | Docter Optics Se | Vorrichtung zum optischen Abbilden von Merkmalen einer Hand |
CN112529790B (zh) * | 2020-11-13 | 2023-06-27 | 清华大学 | 用于光谱恢复的图像光强校正方法及装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4307934B2 (ja) * | 2003-08-13 | 2009-08-05 | 株式会社トプコン | 画像補正機能付撮影装置及び方法、並びに撮影装置及び方法 |
WO2011121761A1 (ja) | 2010-03-31 | 2011-10-06 | キヤノン株式会社 | 画像処理装置、およびそれを用いた撮像装置 |
JP2011259314A (ja) | 2010-06-10 | 2011-12-22 | Fujifilm Corp | 撮像装置、画像処理装置及びプログラム |
JP2012003454A (ja) | 2010-06-16 | 2012-01-05 | Canon Inc | 画像処理装置、撮像装置および画像処理プログラム |
JP5414752B2 (ja) | 2011-08-08 | 2014-02-12 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム |
JP5959976B2 (ja) | 2012-07-27 | 2016-08-02 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 |
FI125408B (fi) * | 2012-09-17 | 2015-09-30 | Focalspec Oy | Menetelmä ja mittalaite pinnan etäisyyden, kohteen paksuuden ja optisten ominaisuuksien mittaamiseksi |
JP5851650B2 (ja) * | 2013-03-04 | 2016-02-03 | 富士フイルム株式会社 | 復元フィルタ生成装置及び方法、画像処理装置、撮像装置、復元フィルタ生成プログラム並びに記録媒体 |
JP6149717B2 (ja) | 2013-12-16 | 2017-06-21 | 新日鐵住金株式会社 | 撮像装置及び撮像方法 |
JP2015138470A (ja) | 2014-01-23 | 2015-07-30 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理装置の制御方法、及び、プログラム |
JP6372300B2 (ja) | 2014-10-17 | 2018-08-15 | 新日鐵住金株式会社 | 形状測定装置及び形状測定方法 |
-
2017
- 2017-08-15 JP JP2017156780A patent/JP6821526B2/ja active Active
-
2018
- 2018-08-09 US US16/100,112 patent/US10810714B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10810714B2 (en) | 2020-10-20 |
JP2019036115A (ja) | 2019-03-07 |
US20190057494A1 (en) | 2019-02-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9007482B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
JP5409589B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP5959976B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP5284537B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、およびそれを用いた撮像装置 | |
RU2523028C2 (ru) | Устройство обработки изображения, устройство захвата изображения и способ обработки изображения | |
JP5188651B2 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
JP2011215707A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP6821526B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、プログラム | |
JP5344648B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
CN111988517B (zh) | 图像处理装置、镜头装置和图像处理方法 | |
JP6929141B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP2014150423A (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5425135B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5645981B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5425136B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5611439B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム | |
US20220270211A1 (en) | Image processing apparatus, image pickup apparatus, image processing method, and storage medium | |
JP2018107541A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
JP2017126952A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2023139397A (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体 | |
JP2024058945A (ja) | 画像処理方法、画像処理装置及びプログラム | |
JP2016092676A (ja) | 画像処理装置、撮像装置、カメラシステムおよび画像処理システム | |
JP2016201601A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180810 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180810 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190724 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190806 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191002 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200218 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20200402 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200416 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200714 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200720 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210106 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6821526 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |