JP6733989B2 - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP6733989B2 JP6733989B2 JP2016086971A JP2016086971A JP6733989B2 JP 6733989 B2 JP6733989 B2 JP 6733989B2 JP 2016086971 A JP2016086971 A JP 2016086971A JP 2016086971 A JP2016086971 A JP 2016086971A JP 6733989 B2 JP6733989 B2 JP 6733989B2
- Authority
- JP
- Japan
- Prior art keywords
- resolution
- image
- unit
- converted
- conversion unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 131
- 238000000034 method Methods 0.000 claims description 40
- 238000004364 calculation method Methods 0.000 claims description 24
- 239000002131 composite material Substances 0.000 claims description 11
- 230000015572 biosynthetic process Effects 0.000 claims description 10
- 238000003786 synthesis reaction Methods 0.000 claims description 10
- 239000000203 mixture Substances 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 13
- 230000006866 deterioration Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 230000002194 synthesizing effect Effects 0.000 description 6
- 239000000470 constituent Substances 0.000 description 5
- 238000012952 Resampling Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Description
Pa画像は、単一の波長帯の観測情報のみを有し、色彩情報を有していないが、一般的にMu画像よりも高い解像度を有している。
パンシャープン画像を得る処理はパンシャープン処理と呼ばれ、パンシャープン処理として、例えば、IHS(Intensity−Hue−Saturation)方式、PCA(Principal Component Analysis)を用いる方式、Wevelet変換を用いる方式など、様々な方式が提案されている。
ただし、画素の補間処理として、例えば、バイリニア補間やCC(Cubic Convolution)などの一般的な補間処理を実施した場合、補間によって発生するアーティファクトの影響を受けて、色縞が発生するなどの現象がみられる。
以下の非特許文献1には、フィルタを用いて、色縞によるパンシャープン画像の画質劣化を抑制する手法が開示されている。
図1はこの発明の実施の形態1による画像処理装置を示す構成図であり、図2はこの発明の実施の形態1による画像処理装置のハードウェア構成図である。
図1及び図2において、画像入力部1は例えば図2の画像入力回路21で実現されるものであり、バンド数m(mは正の整数)のMuセンサ及びPaセンサとデータ通信を行う機能を有している。
画像入力部1はMuセンサから複数の波長帯の観測情報を有するMu画像(マルチスぺクトル画像)を取得し、Paセンサから単一の波長帯の観測情報を有するPa画像(パンクロマチック画像)を取得する。
なお、画像入力部1により取得されるMu画像とPa画像は、同じ領域を観測している画像である。
第1の解像度変換部3は分解能変換部4及び解像度変換処理部5を備えている。
分解能変換部4は例えば図2の分解能変換回路23で実現されるものであり、画像入力部1により取得されたPa画像の分解能まで、画像入力部1により取得されたMu画像の分解能を高め、分解能を高めたMu画像’を出力する処理を実施する。
解像度変換処理部5は例えば図2の解像度変換処理回路24で実現されるものであり、分解能変換部4により分解能が高められたMu画像’の解像度が解像度データベース2に記憶されている目標解像度と一致するように、そのMu画像’の解像度を変換し、解像度変換後のMu画像”を出力する処理を実施する。
即ち、第2の解像度変換部6は画像入力部1により取得されたPa画像の解像度が、解像度変換後のMu画像”の解像度と一致するように、そのPa画像の解像度を変換し、解像度変換後のPa画像’及び解像度変換後のMu画像”を出力する処理を実施する。
即ち、画像合成部7は第2の解像度変換部6から出力された解像度変換後のMu画像”を解像度変換後のPa画像’で除算し、その除算した結果を画像入力部1により取得されたパンクロマチック画像Paに乗算することで、そのMu画像”とPa画像’の合成画像であるパンシャープン画像PS(Band)を得る処理を実施する。
パンシャープン画像PS(Band)は、画像出力部8からディスプレイに出力されるようにしてもよいし、外部に出力されるようにしてもよい。また、画像処理装置内に格納されるようにしてもよい。
ここで、記憶回路22は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)などの不揮発性又は揮発性の半導体メモリや、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)などが該当する。
また、画像入力部1、分解能変換部4、解像度変換処理部5、第2の解像度変換部6、画像合成部7及び画像出力部8は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、または、これらを組み合わせたものが該当する。
ソフトウェアやファームウェアはプログラムとして、コンピュータのメモリに格納される。コンピュータは、プログラムを実行するハードウェアを意味し、例えば、CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、DSP(Digital Signal Processor)などが該当する。
画像処理装置がソフトウェアやファームウェアなどで実現される場合、解像度データベース2をコンピュータのメモリ31上に構成するとともに、画像入力部1、分解能変換部4、解像度変換処理部5、第2の解像度変換部6、画像合成部7及び画像出力部8の処理手順をコンピュータに実行させるためのプログラムをメモリ31に格納し、コンピュータのプロセッサ32がメモリ31に格納されているプログラムを実行するようにすればよい。
また、図2では画像処理装置の構成要素のそれぞれが専用のハードウェアで実現される例を示し、図3では、画像処理装置がソフトウェアやファームウェアなどで実現される例を示しているが、画像処理装置における一部の構成要素が専用のハードウェアで実現され、残りの構成要素がソフトウェアやファームウェアなどで実現されるものであってもよい。
画像入力部1は、Muセンサから複数の波長帯の観測情報を有するMu画像を取得するとともに、Paセンサから単一の波長帯の観測情報を有するPa画像を取得する(図4のステップST1)。
アップサンプリングを実施する際、エイリアシングの影響を受け難いように、高周波数の解像度が低い補間手法を用いることが望ましい。このため、例えば、連続的な曲線を描くスプライン(Spline)補間や、ラグランジュ補間などの補間手法を用いることができる。
ただし、画像入力部1により取得されたMu画像が高周波数成分の信号を有していない場合、スプライン補間やラグランジュ補間とは異なる解像度の劣化が少ない補間手法を用いるようにしてもよい。
解像度変換処理部5は、分解能変換部4がMu画像の分解能を高めるアップサンプリングを実施すると、アップサンプリング後のMu画像’の解像度が目標解像度と一致するように、そのMu画像’の解像度を変換し、解像度変換後のMu画像”を出力する(図4のステップST4)。
即ち、解像度変換処理部5は、アップサンプリングの実施によって劣化した低周波数の信号を増幅し、複数の画素に亘って構造を鮮鋭化させる解像度変換を実施する。
式(1)において、Mu’はアップサンプリング後のMu画像’、Mu”は解像度変換後のMu画像”である。
また、MTFtrgは解像度データベース2に記憶されている目標解像度に対応するMTF(Modulation Transfer Function:変調伝達関数)、MTFmuはアップサンプリング前のMu画像が有するMTF、MTFresamplingはリサンプリング方式によるMTFである。
また、FT{}はフーリエ変換を示す記号、IFT{}は逆フーリエ変換を示す記号である。
即ち、第2の解像度変換部6は、下記の変換式(2)のように、画像入力部1により取得されたPa画像の解像度が、解像度変換後のMu画像”の解像度と一致するように、そのPa画像の解像度を変換し、解像度変換後のPa画像’及び解像度変換後のMu画像”を出力する(図4のステップST5)。
式(2)において、Paは解像度変換前のPa画像、Pa’は解像度変換後のPa画像’、MTFpaは解像度変換前のPa画像が有するMTFである。
即ち、画像合成部7は、下記の式(3)に示すように、解像度変換後のMu画像”を解像度変換後のPa画像’で除算し、その除算した結果を画像入力部1により取得されたパンクロマチック画像Paに乗算することで、そのMu画像”とPa画像’の合成画像であるパンシャープン画像PS(Band)を得る(図4のステップST6)。
そして、この色彩情報に対してPa画像の輝度情報を与えることで、鮮鋭な色彩情報を有するパンシャープン画像PS(Band)が得られる。
一般的に、デコンボリューションやMTFCなどの鮮鋭化処理によって画像の鮮鋭さを向上させると、オーバーシュートやアンダーシュートなどのアーティファクトが発生する可能性があるため、画質劣化の要因となり得る。しかし、この実施の形態1では、解像度変換後のMu画像”に、Pa画像と同様の鮮鋭化処理を施すことで、輝度分布として現れるアーティファクトの影響が軽減されるため、分解能変換部4で劣化した彩度が復元される。
ここでは、画像出力部8がパンシャープン画像PS(Band)を出力するものを示したが、そのパンシャープン画像PS(Band)を画像データ形式で保存するようにしてもよい。
上記実施の形態1では、第1の解像度変換部3が分解能変換部4及び解像度変換処理部5を備えているものを示したが、この実施の形態2では、図5に示すように、第1の解像度変換部3が目標解像度設定部11、補間パラメータ算出部12及び変換処理部13を備えているものであってもよい。
図5及び図6において、図1及び図2と同一符号は同一または相当部分を示すので説明を省略する。
目標解像度設定部11は例えば図6の目標解像度設定回路28で実現されるものであり、Mu画像及びPa画像の目標解像度を設定する処理を実施する。
変換処理部13は例えば図6の変換処理回路30で実現されるものであり、補間パラメータ算出部12により算出された補間パラメータを用いる画素の補間処理を実施して、画像入力部1により取得されたMu画像の分解能及び解像度を変換する処理を実施する。
画像入力回路21、目標解像度設定回路28、パラメータ算出回路29、変換処理回路30、解像度変換回路25、画像合成回路26及び画像出力回路27は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGA、または、これらを組み合わせたものが該当する。
画像処理装置がソフトウェアやファームウェアなどで実現される場合、画像入力部1、目標解像度設定部11、補間パラメータ算出部12、変換処理部13、第2の解像度変換部6、画像合成部7及び画像出力部8の処理手順をコンピュータに実行させるためのプログラムを図3に示すコンピュータのメモリ31に格納し、コンピュータのプロセッサ32がメモリ31に格納されているプログラムを実行するようにすればよい。
目標解像度設定部11は、Mu画像及びPa画像の目標解像度を設定する。Mu画像とPa画像の目標解像度は同じ解像度であるが、Mu画像の目標解像度については、MTFとして設定する。
図7は目標解像度設定部11により設定されたMTFを示す説明図である。
2つの画素の中間位置に画素を挿入する補間処理を実施する場合、例えば、その中間位置の周辺に存在しているN×N個の画素を用いて、画素の補間処理を実施する。
この実施の形態2では、図8に示すように、N×N個の画素のうち、中間位置に近い画素ほど、大きな重み、つまり、補間パラメータXを有するように設定する。そのために、図7に示すように、空間周波数と反比例するように、目標解像度となるMTFを設定し、MTFを逆フーリエ変換することで、補間パラメータXを設定している。
なお、目標解像度設定部11におけるMTFの設定は、目標解像度設定部11がキーボードやマウスなどのマンマシンインタフェースを備えている場合、ユーザがマンマシンインタフェースを操作することで、MTFを設定するようにしてもよい。
また、目標解像度設定部11が外部との通信機能を備えている場合、外部から送信されたMTFを受信することで、MTFを設定するようにしてもよい。
即ち、補間パラメータ算出部12は、下記の式(4)に示すように、目標解像度設定部11により設定されたMTFを逆フーリエ変換することで、補間パラメータXを算出する。
図8は、目標解像度設定部11により設定されたMTFを実空間上の重み関数に変換している例を示している。
図8を参照することで、N×N個の画素に対する重みとして、画素を挿入する中間位置からの距離に対応する重み、即ち、N×N個の画素に対する補間パラメータXが得られる。
即ち、変換処理部13は、N×N個の画素の画素値のそれぞれに、当該画素に対応する補間パラメータXを乗算し、補間パラメータXが乗算された複数の画素の画素値の総和を、中間位置に挿入する画素の画素値に決定する。
そして、変換処理部13は、当該画素を中間位置に挿入することで、画像入力部1により取得されたMu画像の分解能及び解像度を変換する。
これにより、Mu画像の分解能を高める処理と、Mu画像の解像度を変換する処理とが同時に行われる。
なお、第2の解像度変換部6には、目標解像度設定部11から目標解像度が与えられるが、この目標解像度は、補間パラメータ算出部12に与えられる目標解像度としてのMTFではなく、上記実施の形態1と同様の目標解像度である。
Claims (4)
- 単一の波長帯の観測情報を有するパンクロマチック画像の分解能まで、複数の波長帯の観測情報を有するマルチスペクトル画像の分解能を高めるとともに、前記マルチスペクトル画像の解像度を、変調伝達関数を用いて目標解像度に一致するように変換する第1の解像度変換部と、
前記パンクロマチック画像の解像度を、変調伝達関数を用いて変換することで、前記パンクロマチック画像の解像度を前記第1の解像度変換部により変換されたマルチスペクトル画像の解像度に合わせる第2の解像度変換部と、
前記第1の解像度変換部により解像度が変換されたマルチスペクトル画像と、前記第2の解像度変換部により解像度が変換されたパンクロマチック画像とを合成して、当該マルチスペクトル画像と当該パンクロマチック画像の合成画像を得る画像合成部を備え、
前記第1の解像度変換部は、
前記マルチスペクトル画像の目標解像度を設定する目標解像度設定部と、
前記目標解像度設定部により設定された目標解像度から、前記マルチスペクトル画像の分解能及び解像度を変換するために実施する画素の補間処理で用いる補間パラメータを算出する補間パラメータ算出部と、
前記補間パラメータ算出部により算出された補間パラメータを用いる画素の補間処理を実施して、前記マルチスペクトル画像の分解能及び解像度を変換する変換処理部を備えた画像処理装置。 - 前記画像合成部は、前記第1の解像度変換部により解像度が変換されたマルチスペクトル画像を前記第2の解像度変換部により解像度が変換されたパンクロマチック画像で除算し、その除算した結果を前記第2の解像度変換部により解像度が変換される前のパンクロマチック画像に乗算することで、前記合成画像を得ることを特徴とする請求項1記載の画像処理装置。
- 第1の解像度変換部が、複数の波長帯の観測情報を有するマルチスペクトル画像の分解能及び解像度を変換するために実施する画素の補間処理で用いる補間パラメータを前記マルチスペクトル画像の目標解像度から算出し、当該算出された補間パラメータを用いる画素の補間処理を実施して、前記マルチスペクトル画像の分解能を単一の波長帯の観測情報を有するパンクロマチック画像の分解能まで高めるとともに、前記マルチスペクトル画像の解像度を、変調伝達関数を用いて前記目標解像度に一致するように変換し、
第2の解像度変換部が、前記パンクロマチック画像の解像度を、変調伝達関数を用いて変換することで、前記パンクロマチック画像の解像度を前記第1の解像度変換部により変換されたマルチスペクトル画像の解像度に合わせ、
画像合成部が、前記第1の解像度変換部により解像度が変換されたマルチスペクトル画像と、前記第2の解像度変換部により解像度が変換されたパンクロマチック画像とを合成して、当該マルチスペクトル画像と当該パンクロマチック画像の合成画像を得る
画像処理方法。 - 前記画像合成部が、前記第1の解像度変換部により解像度が変換されたマルチスペクトル画像を前記第2の解像度変換部により解像度が変換されたパンクロマチック画像で除算し、その除算した結果を前記第2の解像度変換部により解像度が変換される前のパンクロマチック画像に乗算することで、前記合成画像を得ることを特徴とする請求項3記載の画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016086971A JP6733989B2 (ja) | 2016-04-25 | 2016-04-25 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016086971A JP6733989B2 (ja) | 2016-04-25 | 2016-04-25 | 画像処理装置及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017199066A JP2017199066A (ja) | 2017-11-02 |
JP6733989B2 true JP6733989B2 (ja) | 2020-08-05 |
Family
ID=60237980
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016086971A Active JP6733989B2 (ja) | 2016-04-25 | 2016-04-25 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6733989B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111105358B (zh) * | 2018-10-26 | 2023-06-09 | 阿里巴巴集团控股有限公司 | 图像处理方法及装置 |
US10891527B2 (en) * | 2019-03-19 | 2021-01-12 | Mitsubishi Electric Research Laboratories, Inc. | Systems and methods for multi-spectral image fusion using unrolled projected gradient descent and convolutinoal neural network |
JP7142772B2 (ja) * | 2019-05-16 | 2022-09-27 | 三菱電機株式会社 | 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3179081B2 (ja) * | 1989-08-24 | 2001-06-25 | 株式会社リコー | 画像処理装置 |
JP2008054267A (ja) * | 2006-07-28 | 2008-03-06 | Hitachi Ltd | 画像処理装置、画像符号化装置及び画像復号化装置 |
JP5523427B2 (ja) * | 2011-10-31 | 2014-06-18 | 株式会社パスコ | 地物情報判読用画像生成方法 |
-
2016
- 2016-04-25 JP JP2016086971A patent/JP6733989B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017199066A (ja) | 2017-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5409829B2 (ja) | 画像処理装置、撮像装置、画像処理方法、および、プログラム | |
US8941762B2 (en) | Image processing apparatus and image pickup apparatus using the same | |
JP5054248B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置 | |
JP5235642B2 (ja) | 画像処理装置およびその方法 | |
JP5264968B2 (ja) | 画像処理装置、画像処理方法、撮像装置、および、画像処理プログラム | |
KR101841939B1 (ko) | 가시 및 적외선 데이터 결합을 이용한 이미지 처리 방법 | |
JP2011188391A (ja) | 画像処理装置および方法、並びにプログラム | |
JP6733989B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2017010092A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US10217193B2 (en) | Image processing apparatus, image capturing apparatus, and storage medium that stores image processing program | |
US20160260199A1 (en) | Image processing apparatus, image processing method, and storage medium | |
CN104363366A (zh) | 图像处理方法、图像处理装置和图像拾取装置 | |
US20160343115A1 (en) | Image processing method, image processing apparatus, image capturing apparatus, image processing program and non-transitory computer-readable storage medium | |
CN110659583A (zh) | 信号处理方法、装置及相关产品 | |
JP2015122634A (ja) | 画像処理装置、撮像装置、プログラム及び画像処理方法 | |
JP2019008789A (ja) | 対象表示装置の目標ピーク輝度へ画像をトーン適応させる方法 | |
JP2017010093A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2012227758A (ja) | 画像信号処理装置及びプログラム | |
CN110674697A (zh) | 滤波方法、装置及相关产品 | |
JP6957665B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2017010094A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US9727956B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
US11580620B2 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable medium | |
JP7264483B2 (ja) | 画像変換装置、画像処理装置、画像処理方法、及び、画像処理プログラム | |
JP5846885B2 (ja) | 画像処理装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180621 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190530 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190611 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190801 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200206 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200609 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200707 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6733989 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |