JP6524373B1 - 光学撮像装置および撮像画像補正方法 - Google Patents

光学撮像装置および撮像画像補正方法 Download PDF

Info

Publication number
JP6524373B1
JP6524373B1 JP2019512326A JP2019512326A JP6524373B1 JP 6524373 B1 JP6524373 B1 JP 6524373B1 JP 2019512326 A JP2019512326 A JP 2019512326A JP 2019512326 A JP2019512326 A JP 2019512326A JP 6524373 B1 JP6524373 B1 JP 6524373B1
Authority
JP
Japan
Prior art keywords
unit
imaging
captured image
correction
psf
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019512326A
Other languages
English (en)
Other versions
JPWO2019021341A1 (ja
Inventor
将敬 鈴木
将敬 鈴木
真梨子 佐藤
真梨子 佐藤
玉川 恭久
恭久 玉川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6524373B1 publication Critical patent/JP6524373B1/ja
Publication of JPWO2019021341A1 publication Critical patent/JPWO2019021341A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

評価用ターゲット(4)が斜め撮像されても、撮像部(5)のオフナディア角に基づいて評価用ターゲット(4)の位置を調整してPSFを再構成する。

Description

この発明は、撮像画像の高解像度化補正を行う光学撮像装置および撮像画像補正方法に関する。
リモートセンシングにおいて、光学撮像装置は、プラットフォームに搭載されており、プラットフォームの移動に伴って検出対象を撮像する。
光学撮像装置における光学系の特性は、プラットフォームに生じた振動が光学撮像装置に伝わることで変化し、プラットフォームが移動した場所の環境に応じて変化することもある。このような光学系の特性変化は、撮像画像の品質に影響を与える。
そこで、光学撮像装置は、高品質の撮像画像を得るため、画像を撮像したときの光学系の特性を評価して、評価した特性に応じて撮像画像を補正している。
光学系の特性の評価指標の一つに点像広がり関数(以下、PSFと記載する)がある。
PSFは、光学系によって無限小の被写体を結像させたときに発生するボケの強度分布を表しており、撮像画像の高解像度化補正に利用されている。
例えば、非特許文献1には、リモートセンシングに利用される光学撮像装置において、光学系の特性をPSFで評価する方法が記載されている。
上記評価方法では、複数の評価用ターゲットを地上に配置し、プラットフォームに搭載された光学撮像装置が高空から評価用ターゲットを撮像する。光学撮像装置の撮像部は、撮像光軸に直交する方向に存在する評価用ターゲットを撮像(以下、直下視撮像と記載する)する。撮像部の結像面において、複数の評価用ターゲットは、複数の点像として得られる。このとき、複数の点像の画素値分布を再配置することで、撮像部の空間分解能よりも高い分解能となるPSFの値が得られる。これらの処理をPSFの再構成という。
Stephen Schiller and John Silny," In−Flight Performance Assessment of Imaging Systems Using The Specular Array Radiometric Calibration (SPARC) Method "、11th Annual Joint Agency Commercial Imagery Evaluation (JACIE) Workshop (2012).
しかしながら、非特許文献1に記載されるPSF評価方法では、撮像光軸に対して斜め方向に存在する評価用ターゲットを撮像部で撮像(以下、斜め撮像と記載する)すると、オフナディア角の変化に伴う位相ずれによって点像の間隔に1ピクセル未満の変化が生じる。このため、PSFの再構成に利用可能な点像の数が減少し、点像の間隔が点像自体の幅よりも小さくなるという課題があった。
例えば、評価用ターゲット同士のそれぞれの幅の比が整数倍になり、PSFの再構成が不可能になる。0.1ピクセルずつの1ピクセル以下の位相ずれを持つ10個の点像が、位相ずれで0.5ピクセル変化することで、PSFの再構成に有効な点像が2個になる。
この発明は上記課題を解決するもので、直下視撮像によるPSF測定と斜め撮像によるPSF測定との両方を可能として、より効率的なPSF測定を行うことができる光学撮像装置および撮像画像補正方法を得ることを目的とする。
この発明に係る光学撮像装置は、撮像部、入力部、第1の計算部、調整部、再構成部、補正部および出力部を備えている。撮像部は、対象物を撮像する。入力部は、撮像部のオフナディア角の入力を受け付ける。第1の計算部は、入力部によって受け付けられたオフナディア角に基づいて、PSFの再構成に必要な評価用ターゲットの間隔を計算し、計算した間隔としたときの評価用ターゲットの位置の移動量を計算する。調整部は、第1の計算部によって計算された移動量で評価用ターゲットの位置を調整する。再構成部は、撮像部によって撮像された位置調整後の評価用ターゲットの撮像画像から点像の空間位相を計算し、点像からPSFを再構成する。補正部は、再構成部によって再構成されたPSFを用いて、撮像部によって撮像された撮像画像の高解像度化補正を行う。出力部は、補正部によって補正された撮像画像を出力する。
この発明によれば、評価用ターゲットが斜め撮像されても、撮像部のオフナディア角に基づいて評価用ターゲットの位置を調整してPSFを再構成するので、直下視撮像によるPSF測定と斜め撮像によるPSF測定との両方が可能となる。これにより、直下視撮像による評価用ターゲットの撮像が困難な場合であっても、斜め撮像で評価用ターゲットの撮像が可能となり、より効率的なPSF測定を行うことができる。
この発明の実施の形態1に係る光学撮像装置の構成を示すブロック図である。 図2Aは、実施の形態1に係る光学撮像装置の機能を実現するハードウェア構成を示すブロック図である。図2Bは、実施の形態1に係る光学撮像装置の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。 実施の形態1に係る撮像画像補正方法を示すフローチャートである。 図4Aは、評価用ターゲットの直下視撮像を示す図である。図4Bは、評価用ターゲットの斜め撮像を示す図である。図4Cは、評価用ターゲットの位置調整を示す図である。 撮像部の光学検出器の結像面上に結像される点像を示す図である。 PSFの再構成の概要を示す図である。 この発明の実施の形態2に係る光学撮像装置の構成を示すブロック図である。
以下、この発明をより詳細に説明するため、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
図1は、この発明の実施の形態1に係る光学撮像装置100の構成を示すブロック図である。光学撮像装置100は、撮像画像を鮮鋭化する補正(以下、高解像度化補正と記載する)を行う撮像装置であり、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像データベース7、撮像画像補正部8および補正画像出力部9を備える。
オフナディア角取得部1は、撮像部5のオフナディア角を取得する取得部である。
撮像部5のオフナディア角とは、例えば、撮像部5が鉛直下を向いており、評価用ターゲット4が地上面に平行に配置されている場合、撮像部5と評価用ターゲット4とを結ぶ直線と撮像光軸とがなす角である。
撮像部5のオフナディア角は、撮像部5における検出器の向きを制御する装置あるいは撮像部5の姿勢を制御する装置によって求められる。オフナディア角取得部1は、これらの装置と通信してオフナディア角を取得してもよい。
ターゲット位置計算部2は、撮像部5のオフナディア角に基づいて、PSFの再構成に必要な評価用ターゲット4の間隔を計算し、計算した間隔としたときの評価用ターゲット4の位置の移動量を計算する第1の計算部である。ターゲット位置計算部2によって計算された評価用ターゲット4の移動量は、ターゲット位置調整部3およびPSF再構成部6に出力される。
ターゲット位置調整部3は、ターゲット位置計算部2によって計算された移動量で評価用ターゲット4の位置を調整する調整部である。
例えば、ターゲット位置調整部3は、評価用ターゲット4が配置されている台座の位置を移動させる駆動装置を制御して、評価用ターゲット4の位置を調整する。
評価用ターゲット4は、撮像画像から得られたPSFを評価するための撮像ターゲットであり、例えば、ミラーである。前述したように、評価用ターゲット4は、台座とともに位置の移動が可能である。
なお、図1に示した評価用ターゲット4は、3つの評価用ターゲット4−1〜4−3で構成されている。撮像画像において、評価用ターゲット4−1〜4−3は、微小な大きさを有する点群とみなされる。
撮像部5は、対象物を撮像する撮像部であり、オフナディア角を変化させながら対象物の撮影が可能である。例えば、撮像部5は、レンズと光学検出器を備えたカメラによって実現することができる。
PSF再構成部6は、撮像部5によって撮像された位置調整後の評価用ターゲット4の撮像画像から点像の空間位相を計算し、点像からPSFを再構成する再構成部である。
PSF再構成部6は、撮像により得られた点像の空間位相ずれを計算し、空間位相ずれに従って点像の画素値分布を再配置することで、撮像部5よりも高い分解能となるPSFを再構成する。なお、PSFの再構成の詳細は、図6を用いて後述する。
撮像画像データベース7は、撮像部5によって撮像された撮像画像を記憶するデータベースである。撮像画像補正部8は、要求に応じた撮像画像を撮像画像データベース7から読み出して取得することができる。
撮像画像補正部8は、PSF再構成部6によって再構成されたPSFを用いて撮像画像の高解像度化補正を行う補正部である。
例えば、撮像画像補正部8は、再構成されたPSFを用いて、撮像画像データベース7から読み出した撮像画像を鮮鋭化する処理を行う。
補正画像出力部9は、撮像画像補正部8によって補正された補正画像を出力する出力部である。例えば、補正画像出力部9は、補正画像をディスプレイに表示出力してもよく、外部装置に通信出力してもよい。
図2Aは、光学撮像装置100の機能を実現するハードウェア構成を示すブロック図である。図2Bは、光学撮像装置100の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。図2Aおよび図2Bにおいて、通信装置200は、カメラ201の検出器を制御する装置またはカメラ201の姿勢を制御する装置と通信する装置である。図1に示すオフナディア角取得部1は、通信装置200に指示して上記装置と通信させて、上記装置からオフナディア角を取得する。
カメラ201は、図1に示した撮像部5であって、カメラ201が有する検出器の向きまたはカメラ201の姿勢を変更する駆動部を有している。上記駆動部は、通信装置200と通信が可能な制御装置から与えられた制御信号に応じて、カメラ201が有する検出器の向きまたはカメラ201の姿勢を変更することができる。
ディスプレイ202は、補正画像出力部9から出力された補正画像を表示する出力装置である。
撮像画像データベース7は、図2Aに示す処理回路203が備えるメモリまたは図2Bに示すメモリ205に記憶してもよい。
また、撮像画像データベース7は、光学撮像装置100と通信してデータの読み出しが可能な外部記憶装置に設けられてもよい。
すなわち、光学撮像装置100は、撮像画像データベース7を備えない構成であってもよい。
光学撮像装置100における、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像補正部8および補正画像出力部9のそれぞれの機能は、処理回路により実現される。
すなわち、光学撮像装置100は、図3に示すステップST1からステップST6までの処理を実行する処理回路を備える。
処理回路は、専用のハードウェアであっても、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
処理回路が図2Aに示す専用のハードウェアである場合、処理回路203は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)またはこれらを組み合わせたものが該当する。
オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像補正部8および補正画像出力部9のそれぞれの機能を別々の処理回路で実現してもよいし、これらの機能をまとめて1つの処理回路で実現してもよい。
処理回路が図2Bに示すプロセッサ204である場合、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像データベース7、撮像画像補正部8および補正画像出力部9のそれぞれの機能は、ソフトウェア、ファームウェアまたはソフトウェアとファームウェアの組み合わせによって実現される。
ソフトウェアまたはファームウェアはプログラムとして記述され、メモリ205に記憶される。
プロセッサ204は、メモリ205に記憶されたプログラムを読み出して実行することにより、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像補正部8および補正画像出力部9のそれぞれの機能を実現する。すなわち、光学撮像装置100は、プロセッサ204によって実行されるときに、図3に示すステップST1からステップST6までの処理が結果的に実行されるプログラムを記憶するためのメモリ205を備える。これらのプログラムは、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像補正部8および補正画像出力部9のそれぞれの手順または方法をコンピュータに実行させるものである。
メモリ205には、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically−EPROM)などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVDなどが該当する。
オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、PSF再構成部6、撮像画像補正部8および補正画像出力部9のそれぞれの機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現してもよい。例えば、オフナディア角取得部1、ターゲット位置計算部2およびターゲット位置調整部3については、専用のハードウェアとしての処理回路でその機能を実現し、PSF再構成部6、撮像画像補正部8および補正画像出力部9については、プロセッサ204がメモリ205に記憶されたプログラムを読み出して実行することによってその機能を実現してもよい。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせによって上記機能のそれぞれを実現することができる。
次に動作について説明する。
図3は、実施の形態1に係る撮像画像補正方法を示すフローチャートである。
まず、オフナディア角取得部1は、撮像部5が評価用ターゲットを斜め撮像したときのオフナディア角を取得する(ステップST1)。
オフナディア角取得部1によって取得された撮像部5のオフナディア角は、ターゲット位置計算部2に出力される。
ターゲット位置計算部2は、オフナディア角取得部1から入力した撮像部5のオフナディア角に基づいて、評価用ターゲット4の位置移動量を計算する(ステップST2)。
例えば、ターゲット位置計算部2は、オフナディア角に基づいて、斜め撮像によって得られた点像の間隔を計算し、さらに、撮像部5よりも高い分解能となるPSFの再構成に必要な点像の間隔を確保可能な評価用ターゲット4の位置移動量を計算する。
図4Aは、評価用ターゲット4の直下視撮像を示す図である。直下視撮像では、撮像画像における評価用ターゲット4の間隔dpixelがn+δ(ピクセル)となるように、実空間における評価用ターゲット4の間隔dgroundがGSD×dpixel(m)で配置される。ここで、nは自然数であり、評価用ターゲット4の間隔dpixelが、点像の幅よりも十分に大きな値となるように設定される。δは1ピクセル未満の位相ずれであり、撮像画像における評価用ターゲット4が等間隔配置であれば、評価用ターゲット4の数mの逆数に相当する。GSDは、撮像部5の空間分解能(m)である。
なお、図4Aから図4Cまででは、説明の簡単のために、評価用ターゲット4の配置を1次元で表している。ただし、PSFは2次元分布として評価する必要があるので、使用する評価用ターゲット群の配列も2次元とする。
図4Bは、評価用ターゲット4の斜め撮像の例を示す図である。オフナディア角φで斜め撮像した場合、撮像画像における評価用ターゲット4の間隔d’pixelは、図4Aに示した直下視撮像に比べてcosφに比例して小さくなる。例えば、直下視撮像で得られた撮像画像における評価用ターゲット4の間隔dpixelを10.2(ピクセル)とし、評価用ターゲット4のそれぞれに対応する点像に対して、0.0、0.2、0.4、0.6、0.8(ピクセル)といったサブピクセルピッチでの空間位相ずれを与える。
これらの評価用ターゲット4を斜め撮像して得られた撮像画像における評価用ターゲット4の間隔d’pixelが9.5(ピクセル)に変化したとすると、評価用ターゲット4のそれぞれに対応する点像の空間位相ずれは、0.0、0.5、0.0、0.5、0.0と変化し、高分解能なPSFの再構成に利用可能な点像の数が5から2に減少し、PSFの測定精度が低下する。
斜め撮像で得られた撮像画像における評価用ターゲット4の間隔d’pixelの変化に対して評価用ターゲット4の位置を調整し、d’pixel=9.6(ピクセル)とする。これにより、点像のサブピクセルピッチの空間位相ずれは、0.0、0.6、1.2→0.2、1.8→0.8、2.4→0.4(ピクセル)となって、PSFの再構成に利用可能な点像の数が直下視撮像の場合と同数の5となる。
評価用ターゲット4の位置調整方法は、例えば、下記の(1)〜(3)が挙げられる。
(1)地平面と鉛直方向に評価用ターゲット4の位置を移動させる。
(2)地平面と水平方向に評価用ターゲット4の位置を移動させる。
(3)複数の評価用ターゲット4のうち、一つの評価用ターゲット4を中心とした円軌道上に他の評価用ターゲット4の位置を移動させる。
図4Cは、評価用ターゲット4の位置調整を示す図であり、(1)の方法で評価用ターゲット4の位置を移動させる場合を示している。
例えば、地平面に対する角度がθとなるように、評価用ターゲット4が並んだ台座面を地平面と鉛直方向に移動させる。
移動後の評価用ターゲット4を撮像部5が斜め撮像して得られる撮像画像における評価用ターゲット4の間隔d”pixel(ピクセル)は、下記式(1)で表される。
下記式(1)において、d”groundは、実空間における移動後の評価用ターゲット4の間隔である。
d”pixel
=d”ground/(GSD/cosφ)
=dpixel・cosφ・cos(φ−θ)/cos(θ) (1)
ターゲット位置計算部2は、上記式(1)に従って計算した補正角θと実空間における移動後の評価用ターゲット4の間隔dground(m)とを用いて、下記式(2)に従い、鉛直方向の評価用ターゲット4の移動量Δd(m)を計算する。ここで、mは、評価用ターゲット4の数であり、補正角θを定義するときに中心とする評価用ターゲット4から近い順にi=0,1,・・・,m−1とする。
Δd=i・dground・cos(θ)
(i=0,1,・・・,m−1) (2)
ターゲット位置調整部3は、ターゲット位置計算部2によって計算された位置移動量に応じて評価用ターゲット4の位置を調整する(ステップST3)。
PSF再構成部6は、位置調整後の評価用ターゲット4の撮像画像を用いて、PSFを再構成する(ステップST4)。
図5は、撮像部5の光学検出器5aの結像面上に結像される点像を示す図である。
撮像部5は、図5に示すように、同一の平面上に並んだ複数の光学検出器5aを有しており、それぞれの光学検出器5aが画素に相当する。
評価用ターゲット4を撮像部5で撮像することで、評価用ターゲット4と同数の点像が光学検出器5aの結像面上に結像される。点像には、光学検出器5aのピッチ未満の空間位相ずれが与えられている。
例えば、図5において、点像aは画素中央に位置しているが、点像bおよび点像cは、画素中央から右寄りに位置している。このように空間位相のずれ量は点像ごとに異なる。
これにより、評価用ターゲット4を撮像部5で撮像することで、1(ピクセル)未満の空間位相ずれを生じた点像が得られる。
図6は、PSFの再構成の概要を示す図である。図6に示すように、PSF再構成部6は、評価用ターゲット4の撮像により得られた点像の画素値分布が、1つの点像の画素値分布と等しくなるように点像を並び替える。
例えば、N×N個でM×M(ピクセル)の点像を用いたPSFの再構成を1次元で考える。点像P(k=0〜N−1)のそれぞれの画素値をP(0),P(1),・・・,P(M−1)と仮定する。
点像のそれぞれに1(ピクセル)の空間位相ずれδが生じているとき、PSF再構成部6は、δ(ピクセル)の間隔で点像Pを並び替える。これにより、点像Pのそれぞれの画素値は、図6に示すように、P(0),P(0),・・・,P(x),Pk+1(x),Pk+2(x),・・・,PN−2(M−1),PN−1(M−1)となり、高分解能な点像が得られる。
PSF再構成部6は、このようにして得られた高分解能な点像に対して画素値の合計が1となるように規格化して、再構成後のPSFを得る。
撮像画像補正部8は、撮像画像データベース7から読み出した任意の撮像画像に対し、PSF再構成部6によって再構成されたPSFを用いた逆畳み込みを行うことで、撮像画像の高解像度化補正を行う(ステップST5)。これにより、撮像画像の鮮鋭さが強調される。なお、撮像画像補正部8は、撮像画像データベース7に記憶された撮像画像の他、撮像部5によって新たに撮像された撮像画像を補正してもよい。
例えば、撮像画像補正部8は、下記式(3)を用いて撮像画像を高解像度化補正する。
下記式(3)において、gは、再構成されたPSFと同等の画素ピッチを有した画像に相当するまでアップサンプリングされた撮像画像を表しており、g’は、補正後の画像を表している。F[f]は、関数fのフーリエ変換を表している。
下記式(3)の右辺全体は、撮像画像gを、空間周波数領域において直交座標(x’,y’)に対応するPSFで除算し、さらに、逆フーリエ変換によって、実空間に対応するデータに戻した画像の座標(x’,y’)における値を表している。
g’(x’,y’)
=F−1[F[g]/F[PSF(x’,y’)]](x’,y’) (3)
再構成した1つのPSFを用いて逆畳み込みを行う場合、全ての座標(x’,y’)において同一のPSFが用いられる。
PSF再構成部6は、結像面上に結像された複数の点像のそれぞれに対応するPSFを再構成し、再構成した複数のPSFのうち、任意の座標(x’,y’)に対応するPSFを用いて逆畳み込みを行うことで、より効果的な補正が可能となる。
補正画像出力部9は、撮像画像補正部8によって補正された画像を出力する(ステップST6)。例えば、補正画像出力部9は、補正画像を画像データ形式で出力して記憶装置に記憶してもよく、ディスプレイ202に出力して表示させてもよい。
以上のように、実施の形態1に係る光学撮像装置100において、評価用ターゲット4が斜め撮像されても、撮像部5のオフナディア角に基づいて評価用ターゲット4の位置を調整してPSFを再構成するので、直下視撮像によるPSF測定と斜め撮像によるPSF測定との両方が可能となる。これにより、直下視撮像による評価用ターゲット4の撮像が困難な場合であっても、斜め撮像で評価用ターゲット4の撮像が可能となり、より効率的なPSF測定を行うことができる。
実施の形態2.
図7は、この発明の実施の形態2に係る光学撮像装置100Aの構成を示すブロック図である。図7において、図1と同一の構成要素には同一の符号を付して説明を省略する。
光学撮像装置100Aは、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像データベース7、撮像画像補正部8A、補正画像出力部9、収差解析部10およびPSF生成部11を備える。
収差解析部10は、PSF再構成部6によって再構成されたPSFから波面収差係数を解析する解析部である。
PSF生成部11は、収差解析部10によって解析された波面収差係数を用いてPSFを計算する第2の計算部である。
撮像画像補正部8Aは、PSF生成部11によって生成されたPSFを用いて撮像画像の高解像度化補正を行う補正部である。
実施の形態1と同様に、光学撮像装置100Aにおける、オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像補正部8A、補正画像出力部9、収差解析部10およびPSF生成部11のそれぞれの機能は、処理回路により実現される。
オフナディア角取得部1、ターゲット位置計算部2、ターゲット位置調整部3、撮像部5、PSF再構成部6、撮像画像補正部8A、補正画像出力部9、収差解析部10およびPSF生成部11のそれぞれの機能について、一部または全てを専用のハードウェアで実現してもよく、一部または全てをソフトウェアまたはファームウェアで実現してもよい。
このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせによって上記機能のそれぞれを実現することができる。
次に動作について説明する。
収差解析部10は、PSF再構成部6によって再構成されたPSFを入力すると、入力したPSFに対して、収差係数またはZernike係数といった波面収差Wを記述する波面収差係数を推定する。そして、収差解析部10は、推定した波面収差係数を用いて、PSFを補間する。
例えば、波面収差係数としてザイデル収差係数を推定し、波面収差Wを、ザイデル収差係数の5収差のみで表すと仮定した場合、収差解析部10は、下記式(4)を用いて波面収差Wを算出する。下記式(4)は、結像面における点像の像高x、瞳面の半径座標ρおよび角度座標θ(x=ρcosθ、y=ρsinθ)を用いて波面収差Wを表したものである。下記式(4)において、Sは球面収差係数、SIIはコマ収差係数、SIIIは非点収差係数であり、SIII+SIVはデフォーカス、Sはディストーションである。
W(x,ρ,θ)
=Sρ/8+SIIρcosθ/2+SIII ρcosθ/2+(SIII+SIV)x ρ/4+S ρcosθ/2 (4)
収差解析部10は、上記式(4)で得られた収差係数を変化させながら、波面収差W(x,ρ,θ)を用いてPSFを計算し、計算したPSFとPSF再構成部6によって再構成されたPSFとを比較する。収差解析部10は、両者の誤差が最小になる収差係数を解とする。収差係数は、光学系に対して唯一に定まるので、xを変化させることで、任意の像高におけるPSFの生成が可能である。
なお、波面収差Wの解析でザイデル収差係数の5収差のみを考慮する場合、回転対称な光学系が前提となる。この前提が成り立たない場合、収差解析部10は、例えば、像面上の複数の点像を利用して再構成された複数のPSFを入力し、これらのPSFのそれぞれに対してZernike係数を推定して、Zernike係数から像面上の任意の位置に対するZernike係数を補間してPSFを生成すればよい。
PSF生成部11は、収差解析部10によって解析された波面収差係数に基づいて、像面上の任意の位置に対する波面収差を補間し、下記式(5)に従って、補間した波面収差を用いてPSFを生成する。下記式(5)において、F[f]は、関数fのフーリエ変換を表しており、x’,y’は像面の直交座標を表している。
(x,y)は、(x+y1/2≦開口半径である場合に1の値となり、それ以外で0の値となる関数を表しており、λは、光の波長を表している。
PSF(x’,y’)
=|F[t(x,y)・e2πiW(x,y)/λ]| (5)
以上のように、実施の形態2に係る光学撮像装置100Aは、収差解析部10とPSF生成部11を備える。収差解析部10は、PSF再構成部6によって再構成されたPSFから波面収差係数を解析する。PSF生成部11は、収差解析部10によって解析された波面収差係数を用いてPSFを生成する。撮像画像補正部8Aは、PSF生成部11によって生成されたPSFを用いて、撮像部5によって撮像された撮像画像の高解像度化補正を行う。これらの構成要素を有することで、撮像画像上の任意の位置に対応するPSFを計算することができ、計算したPSFを用いて撮像画像の逆畳み込みが可能となる。
これにより、実施の形態1に係る光学撮像装置100よりも画質の高い補正画像を得ることができる。
なお、本発明は上記実施の形態に限定されるものではなく、本発明の範囲内において、実施の形態のそれぞれの自由な組み合わせまたは実施の形態のそれぞれの任意の構成要素の変形もしくは実施の形態のそれぞれにおいて任意の構成要素の省略が可能である。
この発明に係る光学撮像装置は、直下視撮像によるPSF測定と斜め撮像によるPSF測定との両方を可能として、より効率的なPSF測定を行うことができるので、リモートセンシングに利用することができる。
1 オフナディア角取得部、2 ターゲット位置計算部、3 ターゲット位置調整部、4,4−1〜4−3 評価用ターゲット、5 撮像部、5a 光学検出器、6 PSF再構成部、7 撮像画像データベース、8,8A 撮像画像補正部、9 補正画像出力部、10 収差解析部、11 PSF生成部、100,100A 光学撮像装置、200 通信装置、201 カメラ、202 ディスプレイ、203 処理回路、204 プロセッサ、205 メモリ。

Claims (4)

  1. 対象物を撮像する撮像部と、
    前記撮像部のオフナディア角を取得する取得部と、
    前記取得部によって取得されたオフナディア角に基づいて、点像広がり関数の再構成に必要な評価用ターゲットの間隔を計算し、計算した間隔としたときの評価用ターゲットの位置の移動量を計算する第1の計算部と、
    前記第1の計算部によって計算された移動量で評価用ターゲットの位置を調整する調整部と、
    前記撮像部によって撮像された位置調整後の評価用ターゲットの撮像画像から点像の空間位相を計算し、点像から点像広がり関数を再構成する再構成部と、
    前記再構成部によって再構成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行う補正部と、
    前記補正部によって補正された撮像画像を出力する出力部と
    を備えたことを特徴とする光学撮像装置。
  2. 前記再構成部によって再構成された点像広がり関数から波面収差係数を解析する解析部と、
    前記解析部によって解析された波面収差係数を用いて点像広がり関数を計算する第2の計算部とを備え、
    前記補正部は、前記第2の計算部によって生成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行うこと
    を特徴とする請求項1記載の光学撮像装置。
  3. 対象物を撮像する撮像部を備えた光学撮像装置の撮像画像補正方法であって、
    取得部が、前記撮像部のオフナディア角を取得するステップと、
    第1の計算部が、前記取得部によって取得されたオフナディア角に基づいて、点像広がり関数の再構成に必要な評価用ターゲットの間隔を計算し、計算した間隔としたときの評価用ターゲットの位置の移動量を計算するステップと、
    調整部が、前記第1の計算部によって計算された移動量で評価用ターゲットの位置を調整するステップと、
    再構成部が、前記撮像部によって撮像された位置調整後の評価用ターゲットの撮像画像から点像の空間位相を計算し、点像から点像広がり関数を再構成するステップと、
    補正部が、前記再構成部によって再構成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行うステップと、
    出力部が、前記補正部によって補正された撮像画像を出力するステップと
    を備えたことを特徴とする撮像画像補正方法。
  4. 解析部が、前記再構成部によって再構成された点像広がり関数から波面収差係数を解析するステップと、
    第2の計算部が、前記解析部によって解析された波面収差係数を用いて点像広がり関数を計算するステップとを備え、
    前記補正部は、前記第2の計算部によって生成された点像広がり関数を用いて、前記撮像部によって撮像された撮像画像の高解像度化補正を行うこと
    を特徴とする請求項3記載の撮像画像補正方法。
JP2019512326A 2017-07-24 2017-07-24 光学撮像装置および撮像画像補正方法 Active JP6524373B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/026665 WO2019021341A1 (ja) 2017-07-24 2017-07-24 光学撮像装置および撮像画像補正方法

Publications (2)

Publication Number Publication Date
JP6524373B1 true JP6524373B1 (ja) 2019-06-05
JPWO2019021341A1 JPWO2019021341A1 (ja) 2019-07-25

Family

ID=65041097

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019512326A Active JP6524373B1 (ja) 2017-07-24 2017-07-24 光学撮像装置および撮像画像補正方法

Country Status (2)

Country Link
JP (1) JP6524373B1 (ja)
WO (1) WO2019021341A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022014579A1 (ja) * 2020-07-14 2022-01-20 国立研究開発法人情報通信研究機構 光学収差補正プログラム及び光学波面推定プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100032557A1 (en) * 2007-02-09 2010-02-11 Raytheon Company Specular array for radiometric calibration and method
JP2013033042A (ja) * 2011-07-29 2013-02-14 Raytheon Co 遠隔イメージセンサ身代わり空間特性分析のための方法及びシステム
JP2017084040A (ja) * 2015-10-27 2017-05-18 三菱電機株式会社 画像処理装置及び画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100032557A1 (en) * 2007-02-09 2010-02-11 Raytheon Company Specular array for radiometric calibration and method
JP2013033042A (ja) * 2011-07-29 2013-02-14 Raytheon Co 遠隔イメージセンサ身代わり空間特性分析のための方法及びシステム
JP2017084040A (ja) * 2015-10-27 2017-05-18 三菱電機株式会社 画像処理装置及び画像処理方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022014579A1 (ja) * 2020-07-14 2022-01-20 国立研究開発法人情報通信研究機構 光学収差補正プログラム及び光学波面推定プログラム

Also Published As

Publication number Publication date
WO2019021341A1 (ja) 2019-01-31
JPWO2019021341A1 (ja) 2019-07-25

Similar Documents

Publication Publication Date Title
US10798353B2 (en) Calibration apparatus, calibration method, optical apparatus, image capturing apparatus, and projection apparatus
JP5414752B2 (ja) 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム
US10247933B2 (en) Image capturing device and method for image capturing
US8995753B2 (en) Stereo distance measurement apparatus and stereo distance measurement method
JP4782899B2 (ja) 視差検出装置、測距装置及び視差検出方法
US10200629B2 (en) Image capturing device and method for image capturing
US11067477B2 (en) Wavefront measurement device and wavefront measurement system
JP2016128816A (ja) プレノプティック・カメラを使った表面属性の推定
JP2012088114A (ja) 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム
KR20090004428A (ko) 광학 설계 방법 및 시스템과 광학 수차를 갖는 광학 요소를이용한 촬상 소자
KR20190092605A (ko) 저해상도 검사 이미지들로부터 고해상도 점 확산 함수들을 재구성하기 위한 시스템 및 방법
US20190188834A1 (en) Rapid image correction method for a simplified adaptive optical system
JP6114289B2 (ja) 電気光学センサ用のぼけキャリブレーションシステム及び移動マルチ焦点マルチターゲットコンステレーションを用いる方法
FR3055727B1 (fr) Procede et dispositif de caracterisation des aberrations d'un systeme optique
JP6524373B1 (ja) 光学撮像装置および撮像画像補正方法
JP6968895B2 (ja) 電磁場の波頭の断層撮影分布を取得する方法及び光学システム
JP2017194591A (ja) 距離測定装置、撮像装置、および距離測定方法
JP2019161278A (ja) 校正基準点取得システム、及び校正基準点取得方法
JP5611439B2 (ja) 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム
Meißner Determination and improvement of spatial resolution obtained by optical remote sensing systems
JP2013034068A (ja) 画像処理方法、画像処理装置および画像処理プログラム
Gribl et al. Synthetic astronomical image sequence generation
Wang et al. “3-2-1” PMP: Adding an Extra Pattern to Dual-Band Phase-Shift Profilometry for Higher Precision 3D Imaging
JP6053585B2 (ja) 光学センサ性能評価装置及び光学センサ性能評価方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190228

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190228

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190426

R150 Certificate of patent or registration of utility model

Ref document number: 6524373

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250