JP6524373B1 - 光学撮像装置および撮像画像補正方法 - Google Patents
光学撮像装置および撮像画像補正方法 Download PDFInfo
- Publication number
- JP6524373B1 JP6524373B1 JP2019512326A JP2019512326A JP6524373B1 JP 6524373 B1 JP6524373 B1 JP 6524373B1 JP 2019512326 A JP2019512326 A JP 2019512326A JP 2019512326 A JP2019512326 A JP 2019512326A JP 6524373 B1 JP6524373 B1 JP 6524373B1
- Authority
- JP
- Japan
- Prior art keywords
- unit
- imaging
- captured image
- correction
- psf
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012634 optical imaging Methods 0.000 title claims description 33
- 238000003702 image correction Methods 0.000 title claims description 29
- 238000000034 method Methods 0.000 title claims description 15
- 238000003384 imaging method Methods 0.000 claims abstract description 105
- 238000011156 evaluation Methods 0.000 claims abstract description 91
- 230000004075 alteration Effects 0.000 claims description 48
- 238000012937 correction Methods 0.000 claims description 33
- 238000004458 analytical method Methods 0.000 claims description 22
- 230000003287 optical effect Effects 0.000 claims description 20
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 107
- 230000006870 function Effects 0.000 description 20
- 238000012545 processing Methods 0.000 description 18
- 238000005259 measurement Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000010363 phase shift Effects 0.000 description 12
- 238000009826 distribution Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 239000011295 pitch Substances 0.000 description 4
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical group C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 206010010071 Coma Diseases 0.000 description 1
- 101000863856 Homo sapiens Shiftless antiviral inhibitor of ribosomal frameshifting protein Proteins 0.000 description 1
- 201000009310 astigmatism Diseases 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
Description
光学撮像装置における光学系の特性は、プラットフォームに生じた振動が光学撮像装置に伝わることで変化し、プラットフォームが移動した場所の環境に応じて変化することもある。このような光学系の特性変化は、撮像画像の品質に影響を与える。
そこで、光学撮像装置は、高品質の撮像画像を得るため、画像を撮像したときの光学系の特性を評価して、評価した特性に応じて撮像画像を補正している。
PSFは、光学系によって無限小の被写体を結像させたときに発生するボケの強度分布を表しており、撮像画像の高解像度化補正に利用されている。
例えば、非特許文献1には、リモートセンシングに利用される光学撮像装置において、光学系の特性をPSFで評価する方法が記載されている。
例えば、評価用ターゲット同士のそれぞれの幅の比が整数倍になり、PSFの再構成が不可能になる。0.1ピクセルずつの1ピクセル以下の位相ずれを持つ10個の点像が、位相ずれで0.5ピクセル変化することで、PSFの再構成に有効な点像が2個になる。
実施の形態1.
図1は、この発明の実施の形態1に係る光学撮像装置100の構成を示すブロック図である。光学撮像装置100は、撮像画像を鮮鋭化する補正(以下、高解像度化補正と記載する)を行う撮像装置であり、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像データベース7、撮像画像補正部8および補正画像出力部9を備える。
撮像部5のオフナディア角とは、例えば、撮像部5が鉛直下を向いており、評価用ターゲット4が地上面に平行に配置されている場合、撮像部5と評価用ターゲット4とを結ぶ直線と撮像光軸とがなす角である。
撮像部5のオフナディア角は、撮像部5における検出器の向きを制御する装置あるいは撮像部5の姿勢を制御する装置によって求められる。オフナディア角取得部1は、これらの装置と通信してオフナディア角を取得してもよい。
例えば、ターゲット位置調整部3は、評価用ターゲット4が配置されている台座の位置を移動させる駆動装置を制御して、評価用ターゲット4の位置を調整する。
なお、図1に示した評価用ターゲット4は、3つの評価用ターゲット4−1〜4−3で構成されている。撮像画像において、評価用ターゲット4−1〜4−3は、微小な大きさを有する点群とみなされる。
PSF再構成部6は、撮像により得られた点像の空間位相ずれを計算し、空間位相ずれに従って点像の画素値分布を再配置することで、撮像部5よりも高い分解能となるPSFを再構成する。なお、PSFの再構成の詳細は、図6を用いて後述する。
例えば、撮像画像補正部8は、再構成されたPSFを用いて、撮像画像データベース7から読み出した撮像画像を鮮鋭化する処理を行う。
ディスプレイ202は、補正画像出力部9から出力された補正画像を表示する出力装置である。
また、撮像画像データベース7は、光学撮像装置100と通信してデータの読み出しが可能な外部記憶装置に設けられてもよい。
すなわち、光学撮像装置100は、撮像画像データベース7を備えない構成であってもよい。
すなわち、光学撮像装置100は、図3に示すステップST1からステップST6までの処理を実行する処理回路を備える。
処理回路は、専用のハードウェアであっても、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像補正部8および補正画像出力部9のそれぞれの機能を別々の処理回路で実現してもよいし、これらの機能をまとめて1つの処理回路で実現してもよい。
ソフトウェアまたはファームウェアはプログラムとして記述され、メモリ205に記憶される。
図3は、実施の形態1に係る撮像画像補正方法を示すフローチャートである。
まず、オフナディア角取得部1は、撮像部5が評価用ターゲットを斜め撮像したときのオフナディア角を取得する(ステップST1)。
オフナディア角取得部1によって取得された撮像部5のオフナディア角は、ターゲット位置計算部2に出力される。
例えば、ターゲット位置計算部2は、オフナディア角に基づいて、斜め撮像によって得られた点像の間隔を計算し、さらに、撮像部5よりも高い分解能となるPSFの再構成に必要な点像の間隔を確保可能な評価用ターゲット4の位置移動量を計算する。
(1)地平面と鉛直方向に評価用ターゲット4の位置を移動させる。
(2)地平面と水平方向に評価用ターゲット4の位置を移動させる。
(3)複数の評価用ターゲット4のうち、一つの評価用ターゲット4を中心とした円軌道上に他の評価用ターゲット4の位置を移動させる。
例えば、地平面に対する角度がθとなるように、評価用ターゲット4が並んだ台座面を地平面と鉛直方向に移動させる。
移動後の評価用ターゲット4を撮像部5が斜め撮像して得られる撮像画像における評価用ターゲット4の間隔d”pixel(ピクセル)は、下記式(1)で表される。
下記式(1)において、d”groundは、実空間における移動後の評価用ターゲット4の間隔である。
d”pixel
=d”ground/(GSD/cosφ)
=dpixel・cosφ・cos(φ−θ)/cos(θ) (1)
Δdi=i・dground・cos(θ)
(i=0,1,・・・,m−1) (2)
PSF再構成部6は、位置調整後の評価用ターゲット4の撮像画像を用いて、PSFを再構成する(ステップST4)。
撮像部5は、図5に示すように、同一の平面上に並んだ複数の光学検出器5aを有しており、それぞれの光学検出器5aが画素に相当する。
評価用ターゲット4を撮像部5で撮像することで、評価用ターゲット4と同数の点像が光学検出器5aの結像面上に結像される。点像には、光学検出器5aのピッチ未満の空間位相ずれが与えられている。
これにより、評価用ターゲット4を撮像部5で撮像することで、1(ピクセル)未満の空間位相ずれを生じた点像が得られる。
例えば、N×N個でM×M(ピクセル)の点像を用いたPSFの再構成を1次元で考える。点像Pk(k=0〜N−1)のそれぞれの画素値をPk(0),Pk(1),・・・,Pk(M−1)と仮定する。
PSF再構成部6は、このようにして得られた高分解能な点像に対して画素値の合計が1となるように規格化して、再構成後のPSFを得る。
下記式(3)において、gは、再構成されたPSFと同等の画素ピッチを有した画像に相当するまでアップサンプリングされた撮像画像を表しており、g’は、補正後の画像を表している。F[f]は、関数fのフーリエ変換を表している。
下記式(3)の右辺全体は、撮像画像gを、空間周波数領域において直交座標(x’,y’)に対応するPSFで除算し、さらに、逆フーリエ変換によって、実空間に対応するデータに戻した画像の座標(x’,y’)における値を表している。
g’(x’,y’)
=F−1[F[g]/F[PSF(x’,y’)]](x’,y’) (3)
PSF再構成部6は、結像面上に結像された複数の点像のそれぞれに対応するPSFを再構成し、再構成した複数のPSFのうち、任意の座標(x’,y’)に対応するPSFを用いて逆畳み込みを行うことで、より効果的な補正が可能となる。
図7は、この発明の実施の形態2に係る光学撮像装置100Aの構成を示すブロック図である。図7において、図1と同一の構成要素には同一の符号を付して説明を省略する。
光学撮像装置100Aは、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像データベース7、撮像画像補正部8A、補正画像出力部9、収差解析部10およびPSF生成部11を備える。
PSF生成部11は、収差解析部10によって解析された波面収差係数を用いてPSFを計算する第2の計算部である。
撮像画像補正部8Aは、PSF生成部11によって生成されたPSFを用いて撮像画像の高解像度化補正を行う補正部である。
オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像補正部8A、補正画像出力部9、収差解析部10およびPSF生成部11のそれぞれの機能について、一部または全てを専用のハードウェアで実現してもよく、一部または全てをソフトウェアまたはファームウェアで実現してもよい。
このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせによって上記機能のそれぞれを実現することができる。
収差解析部10は、PSF再構成部6によって再構成されたPSFを入力すると、入力したPSFに対して、収差係数またはZernike係数といった波面収差Wを記述する波面収差係数を推定する。そして、収差解析部10は、推定した波面収差係数を用いて、PSFを補間する。
W(x0,ρ,θ)
=SIρ4/8+SIIx0ρ3cosθ/2+SIIIx0 2ρ2cos2θ/2+(SIII+SIV)x0 2ρ2/4+SVx0 3ρcosθ/2 (4)
t0(x,y)は、(x2+y2)1/2≦開口半径である場合に1の値となり、それ以外で0の値となる関数を表しており、λは、光の波長を表している。
PSF(x’,y’)
=|F[t0(x,y)・e2πiW(x,y)/λ]|2 (5)
これにより、実施の形態1に係る光学撮像装置100よりも画質の高い補正画像を得ることができる。
Claims (4)
- 対象物を撮像する撮像部と、
前記撮像部のオフナディア角を取得する取得部と、
前記取得部によって取得されたオフナディア角に基づいて、点像広がり関数の再構成に必要な評価用ターゲットの間隔を計算し、計算した間隔としたときの評価用ターゲットの位置の移動量を計算する第1の計算部と、
前記第1の計算部によって計算された移動量で評価用ターゲットの位置を調整する調整部と、
前記撮像部によって撮像された位置調整後の評価用ターゲットの撮像画像から点像の空間位相を計算し、点像から点像広がり関数を再構成する再構成部と、
前記再構成部によって再構成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行う補正部と、
前記補正部によって補正された撮像画像を出力する出力部と
を備えたことを特徴とする光学撮像装置。 - 前記再構成部によって再構成された点像広がり関数から波面収差係数を解析する解析部と、
前記解析部によって解析された波面収差係数を用いて点像広がり関数を計算する第2の計算部とを備え、
前記補正部は、前記第2の計算部によって生成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行うこと
を特徴とする請求項1記載の光学撮像装置。 - 対象物を撮像する撮像部を備えた光学撮像装置の撮像画像補正方法であって、
取得部が、前記撮像部のオフナディア角を取得するステップと、
第1の計算部が、前記取得部によって取得されたオフナディア角に基づいて、点像広がり関数の再構成に必要な評価用ターゲットの間隔を計算し、計算した間隔としたときの評価用ターゲットの位置の移動量を計算するステップと、
調整部が、前記第1の計算部によって計算された移動量で評価用ターゲットの位置を調整するステップと、
再構成部が、前記撮像部によって撮像された位置調整後の評価用ターゲットの撮像画像から点像の空間位相を計算し、点像から点像広がり関数を再構成するステップと、
補正部が、前記再構成部によって再構成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行うステップと、
出力部が、前記補正部によって補正された撮像画像を出力するステップと
を備えたことを特徴とする撮像画像補正方法。 - 解析部が、前記再構成部によって再構成された点像広がり関数から波面収差係数を解析するステップと、
第2の計算部が、前記解析部によって解析された波面収差係数を用いて点像広がり関数を計算するステップとを備え、
前記補正部は、前記第2の計算部によって生成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行うこと
を特徴とする請求項3記載の撮像画像補正方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/026665 WO2019021341A1 (ja) | 2017-07-24 | 2017-07-24 | 光学撮像装置および撮像画像補正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6524373B1 true JP6524373B1 (ja) | 2019-06-05 |
JPWO2019021341A1 JPWO2019021341A1 (ja) | 2019-07-25 |
Family
ID=65041097
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019512326A Active JP6524373B1 (ja) | 2017-07-24 | 2017-07-24 | 光学撮像装置および撮像画像補正方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6524373B1 (ja) |
WO (1) | WO2019021341A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022014579A1 (ja) * | 2020-07-14 | 2022-01-20 | 国立研究開発法人情報通信研究機構 | 光学収差補正プログラム及び光学波面推定プログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100032557A1 (en) * | 2007-02-09 | 2010-02-11 | Raytheon Company | Specular array for radiometric calibration and method |
JP2013033042A (ja) * | 2011-07-29 | 2013-02-14 | Raytheon Co | 遠隔イメージセンサ身代わり空間特性分析のための方法及びシステム |
JP2017084040A (ja) * | 2015-10-27 | 2017-05-18 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
-
2017
- 2017-07-24 JP JP2019512326A patent/JP6524373B1/ja active Active
- 2017-07-24 WO PCT/JP2017/026665 patent/WO2019021341A1/ja active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100032557A1 (en) * | 2007-02-09 | 2010-02-11 | Raytheon Company | Specular array for radiometric calibration and method |
JP2013033042A (ja) * | 2011-07-29 | 2013-02-14 | Raytheon Co | 遠隔イメージセンサ身代わり空間特性分析のための方法及びシステム |
JP2017084040A (ja) * | 2015-10-27 | 2017-05-18 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022014579A1 (ja) * | 2020-07-14 | 2022-01-20 | 国立研究開発法人情報通信研究機構 | 光学収差補正プログラム及び光学波面推定プログラム |
Also Published As
Publication number | Publication date |
---|---|
WO2019021341A1 (ja) | 2019-01-31 |
JPWO2019021341A1 (ja) | 2019-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10798353B2 (en) | Calibration apparatus, calibration method, optical apparatus, image capturing apparatus, and projection apparatus | |
JP5414752B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム | |
US10247933B2 (en) | Image capturing device and method for image capturing | |
US8995753B2 (en) | Stereo distance measurement apparatus and stereo distance measurement method | |
JP4782899B2 (ja) | 視差検出装置、測距装置及び視差検出方法 | |
US10200629B2 (en) | Image capturing device and method for image capturing | |
US11067477B2 (en) | Wavefront measurement device and wavefront measurement system | |
JP2016128816A (ja) | プレノプティック・カメラを使った表面属性の推定 | |
JP2012088114A (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
KR20090004428A (ko) | 광학 설계 방법 및 시스템과 광학 수차를 갖는 광학 요소를이용한 촬상 소자 | |
KR20190092605A (ko) | 저해상도 검사 이미지들로부터 고해상도 점 확산 함수들을 재구성하기 위한 시스템 및 방법 | |
US20190188834A1 (en) | Rapid image correction method for a simplified adaptive optical system | |
JP6114289B2 (ja) | 電気光学センサ用のぼけキャリブレーションシステム及び移動マルチ焦点マルチターゲットコンステレーションを用いる方法 | |
FR3055727B1 (fr) | Procede et dispositif de caracterisation des aberrations d'un systeme optique | |
JP6524373B1 (ja) | 光学撮像装置および撮像画像補正方法 | |
JP6968895B2 (ja) | 電磁場の波頭の断層撮影分布を取得する方法及び光学システム | |
JP2017194591A (ja) | 距離測定装置、撮像装置、および距離測定方法 | |
JP2019161278A (ja) | 校正基準点取得システム、及び校正基準点取得方法 | |
JP5611439B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム | |
Meißner | Determination and improvement of spatial resolution obtained by optical remote sensing systems | |
JP2013034068A (ja) | 画像処理方法、画像処理装置および画像処理プログラム | |
Gribl et al. | Synthetic astronomical image sequence generation | |
Wang et al. | “3-2-1” PMP: Adding an Extra Pattern to Dual-Band Phase-Shift Profilometry for Higher Precision 3D Imaging | |
JP6053585B2 (ja) | 光学センサ性能評価装置及び光学センサ性能評価方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190228 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190228 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190402 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190426 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6524373 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |