WO2020230319A1 - 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体 - Google Patents

画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体 Download PDF

Info

Publication number
WO2020230319A1
WO2020230319A1 PCT/JP2019/019497 JP2019019497W WO2020230319A1 WO 2020230319 A1 WO2020230319 A1 WO 2020230319A1 JP 2019019497 W JP2019019497 W JP 2019019497W WO 2020230319 A1 WO2020230319 A1 WO 2020230319A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
band
image processing
processing apparatus
compositing
Prior art date
Application number
PCT/JP2019/019497
Other languages
English (en)
French (fr)
Inventor
康平 栗原
大祐 鈴木
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Priority to PCT/JP2019/019497 priority Critical patent/WO2020230319A1/ja
Priority to US17/608,481 priority patent/US20220222782A1/en
Priority to DE112019007327.3T priority patent/DE112019007327T5/de
Priority to CN201980096097.1A priority patent/CN113812137B/zh
Priority to JP2021519229A priority patent/JP7142772B2/ja
Publication of WO2020230319A1 publication Critical patent/WO2020230319A1/ja

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/48Picture signal generators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/54Conversion of colour picture signals to a plurality of signals some of which represent particular mixed colours, e.g. for textile printing

Abstract

マルチスペクトル画像を構成する複数のバンド画像と同じ視野の参照画像を解析して局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータを算出し、フィルタパラメータを用いてバンド画像に対しエッジを保存しながら平滑化を行う。十分な信号量が得られない波長帯域のバンド画像を含むマルチスペクトル画像を取得した際に、エッジを失うことなくマルチスペクトル画像のSN比を向上させることができる。

Description

画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体
 本発明は、画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体に関する。
 本発明は特に、原稿を波長帯域別に読み取って複数のバンド画像から成るマルチスペクトル画像を生成する画像読み取り装置において、マルチスペクトル画像のSN比を向上させるための画像処理に関する。
 原稿を波長帯域別に読み取って複数のバンド画像を取得する画像読み取り装置では、光源のスペクトルとイメージセンサの分光感度の組合せによって十分な信号量が得られない波長帯域のバンド画像がある。例えば紫外光光源或いは赤外光光源を用いて照射を行って取得されるバンド画像は、可視光帯域のバンド画像と比較してSN比が低いことが多い。
 マルチスペクトル画像を生成する別の例として、光学衛星或いは航空機から地上などを撮影する場合には、同一の撮影対象について高解像度のパンクロマティック画像と、低解像度のマルチスペクトル画像の両方を同時に取得することが広く行われている。
 低解像度のマルチスペクトル画像と高解像度のパンクロマティック画像の両方を同時に取得するシステムでは、両方の画像を組合せて高解像度のカラー画像を作成するパンシャープン処理が行われる。
 パンシャープン処理では、マルチスペクトル画像に含まれるノイズの除去が問題となる。
 特許文献1に記載されたノイズ除去装置は、高解像度で高SN比のパンクロマティック画像を用いて、低解像度で低SN比のバンド画像のノイズを除去する際に、パンクロマティック画像を多重解像度分解し、バンド画像を多重解像度分解し、パンクロマティック画像の分解成分をバンド画像の分解成分を用いて補正し、補正した分解成分と他の分解成分を用いてパンクロマティック画像を再構成する。
国際公開第2015/037189号(段落0024)
 上記のように、特許文献1では高解像度のパンクロマティック画像とマルチスペクトル画像との組合せでノイズ補正を行う。低解像度のマルチスペクトル画像のみが取得され、高解像度画像が取得されない場合がある。マルチスペクトル画像のみでノイズ低減のための平滑化を行うと、マルチスペクトル画像中に多量のノイズが含まれる場合、平滑化によりエッジが失われることがある。
 本発明は上記の問題点を解決するためのものであり、本発明の目的は、十分な信号量が得られない波長帯域のバンド画像を含むマルチスペクトル画像を取得した際に、エッジを失うことなくマルチスペクトル画像のSN比を向上させることができる画像処理装置を提供することにある。
 本発明の画像処理装置は、
 マルチスペクトル画像を構成する複数のバンド画像と同じ視野の参照画像を解析して局所分散値又はエッジ量を画像特徴量として算出し、前記画像特徴量からフィルタパラメータを算出するパラメータ算出部と、
 前記フィルタパラメータを用いて前記バンド画像に対してエッジ保存型平滑化処理を行うフィルター処理部と
 を備えることを特徴とする。
 本発明によれば、十分な信号量が得られない波長帯域のバンド画像を含むマルチスペクトル画像を取得した際に、エッジを失うことなくマルチスペクトル画像のSN比を向上させることが可能となる。
本発明の実施の形態1の画像処理装置を示すブロック図である。 画像処理装置を備えた画像読み取り装置の構成例を示す図である。 図1の画像合成部の一構成例を示すブロック図である。 イメージセンサーの分光量子効率の例を示す図である。 本発明の実施の形態2の画像処理装置を示すブロック図である。 図5の画像合成部の一構成例を示すブロック図である。 (a)~(c)は、図6の相関算出部で算出する画像相関の例を示す図である。 本発明の実施の形態3の画像処理装置を示すブロック図である。 本発明の実施の形態4の画像処理装置を示すブロック図である。 実施の形態1~4の画像処理装置の機能を実現するコンピュータの一例を、光源及びイメージセンサーとともに示す図である。 図10のコンピュータで実施の形態1又は2の画像処理装置の機能を実現する場合の処理の手順を示すフローチャートである。 図10のコンピュータで実施の形態3の画像処理装置の機能を実現する場合の処理の手順を示すフローチャートである。 図10のコンピュータで実施の形態4の画像処理装置の機能を実現する場合の処理の手順を示すフローチャートである。
実施の形態1.
 図1は、本発明の実施の形態1の画像処理装置3を示すブロック図である。図2は、図1の画像処理装置3を備えた画像読み取り装置の構成例を示す。
 図2に示される画像読み取り装置は、画像処理装置3のほか、光源1と、イメージセンサー2とを有する。
 光源1は、各々比較的狭い帯域の、複数の光源から成る。以下ではこの比較的狭い帯域の光源をバンド光源と言う。複数のバンド光源は、例えば、可視光の波長帯域の光源、紫外光の波長帯域の光源、及び近赤外光の波長帯域の光源を含む。複数のバンド光源は、1つずつ順次原稿を照射するよう制御される。
 イメージセンサー2は、上記の複数のバンド光源により被写体としての原稿が順次照射されているときに、原稿を撮像することで、複数のバンド画像DINを順次取得する。一般的には、複数のバンド画像DINは、それぞれが互いに異なるSN比を有する。
 イメージセンサー2は、一次元のイメージセンサー(ラインセンサー)であっても良く、二次元のイメージセンサー(エリアセンサー)であっても良い。ラインセンサーは、密着イメージセンサーであっても良い。
 画像処理装置3は、複数のバンド画像DINを合成して、各バンド画像よりも高いSN比を有する参照画像を生成し、参照画像を解析して局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータを算出し、複数のバンド画像DINに対して、フィルタパラメータを用いてエッジを保存しながら平滑化を行う。
 画像処理装置3は、画像合成部31と、パラメータ算出部32と、フィルター処理部33とを有する。
 画像合成部31は、複数のバンド画像DINを合成して、各バンド画像よりも高いSN比を有する参照画像MSrを生成する。
 SN比の低いバンド画像が合成に使用されると、参照画像MSrのノイズ量が増加し、SN比が低下する可能性がある。参照画像MSrのSN比の低下を避けるため、本実施の形態では、ノイズ量が多いバンド画像の合成重みを小さくして合成を行う。
 画像合成部31は、例えば図4に示されるように、ノイズ量算出部311と、加重合成部312とを有する。
 ノイズ量算出部311は、複数のバンド画像DINの各々のノイズ量Nを算出される。算出されるノイズ量Nは、例えば、スカラーで表されたものである。
 画像処理装置が、図2に示される画像読み取り装置の一部を成すものである場合、各バンド画像の信号量は、イメージセンサー2の該当する波長帯域における量子効率と、使用する光源の該当する波長帯域における照射量との乗算で算出可能である。ノイズ量Nは上記信号量の逆数から算出可能である。
 図4にイメージセンサーの分光量子効率の例を示す。イメージセンサーは感度を有する波長帯域の中心付近にピークを有し、ピーク位置から遠ざかるに従って量子効率が低下する。
 イメージセンサー2の量子効率又は光源の照射量の情報を用いることができない場合には、各バンド画像DINを解析することで、各バンド画像のノイズ量Nを算出することが可能である。
 画像を解析してノイズ量Nを算出する方法としては、例えば、画像の平坦領域における画素毎の局所的な分散値を算出し、その平均値を求める方法が挙げられる。
 その場合、画素毎の局所分散値を算出し、局所分散値が閾値以下の画素から成る領域、或いは、局所分散値が閾値以下の画素が占める割合が予め定められた値以上の領域を平坦領域と見なせば良い。
 局所分散値は、例えば後述の式(3)と同様の演算で求められる。
 加重合成部312は、ノイズ量Nが少ないバンド画像の合成重みが大きくなるように複数のバンド画像DINを合成して参照画像MSrを生成する。合成は、複数のバンド画像の互いに同じ位置の画素値を加重加算することで行われる。即ち、加重合成部312は、複数のバンド画像DINの同じ位置の画素値の加重平均を、参照画像MSrの同じ位置の画素値とする。
 ある画素(注目画素)についての加重平均は、例えば、下記の式(1)で表される演算により求められる。
Figure JPOXMLDOC01-appb-M000001
 式(1)で、
 xは、注目画素の位置を表す座標である。
 Mは、バンド画像の数を示す。
 MSは、M個のバンド画像のうち、i番目のバンド画像を示す。
 MS(x)は、バンド画像MSの位置xの画素値を示す。
 Wは、バンド画像MSの画素値MS(x)に対する合成重みを示す。
 MSr(x)は、参照画像MSrの位置xの画素値を示す。
 各バンド画像MSの画素値MS(x)に対する合成重みWとしては、当該バンド画像MSのノイズ量Nの逆数の正規化値が用いられる。各バンド画像についてのノイズ量の逆数の正規化値は、当該バンド画像についてのノイズ量の逆数を、全バンド画像についてのノイズ量の逆数の平均で除算することで得られる値である。従って、合成重みWは下記の式(2)で表される。
Figure JPOXMLDOC01-appb-M000002
 加重合成部312は、上記の方法の代わりに、予め設定したノイズ量閾値を用いて重みWを0か1に設定し、加重平均を求めることとしても良い。例えば、ノイズ量がノイズ量閾値以上であれば重みWを0とし、そうでなければ重みWを1とし、Mの代わりに重みWを1としたバンド画像の数を用いて、加重平均を求めることとしても良い。
 上記の合成により得られる参照画像MSrは、各バンド画像よりも高いSN比を有するものとなる。
 パラメータ算出部32は、参照画像MSrを解析して参照画像MSrの各画素についての局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータD32を算出する。
 参照画像MSr中の位置xについての局所分散値var(x)は、例えば下記の式(3)で表される演算を行うことで求めることができる。
Figure JPOXMLDOC01-appb-M000003
 式(3)で、
 Ω(x)は、位置xを中心とする局所領域を示す。
 Lは、局所領域Ω(x)内の画素の数を示す。
 yは、局所領域Ω(x)内の位置を表す座標である。
 MSr(y)は、参照画像MSrの位置yの画素値を示す。
 エッジ量は、例えばバイラテラルウェイトを用いた方法で求めることができる。例えば、参照画像MSr中の位置xについてのエッジ量bw(x)は、下記の式(4)で表される演算を行うことで求めることができる。
Figure JPOXMLDOC01-appb-M000004
 式(4)で、
 Ω(x)は、位置xを中心とする局所領域を示す。
 yは、局所領域Ω(x)内の位置を表す座標である。
 d(y,x)は座標yで表される位置と座標xで表される位置との距離を示す。
 MSr(x)は、参照画像MSrの位置xの画素値を示す。
 MSr(y)は、参照画像MSrの位置yの画素値を示す。
 σ及びσは定数を示す。定数σ及びσは任意に定められる。
 パラメータ算出部32は、算出した画像特徴量からフィルタパラメータD32を算出して出力する。
 例えば、画像特徴量をそのままフィルタパラメータとして出力しても良く、画像特徴量の逆数又はそれらの正規化値をフィルタパラメータとして出力しても良い。
 フィルター処理部33は、複数のバンド画像DINに対して、フィルタパラメータD32を用いてエッジを保存しながら平滑化を行い、複数の出力画像DOUTを生成する。
 複数の出力画像DOUTはそれぞれ複数のバンド画像DINに対応する。複数の出力画像DOUTの組合せによりマルチスペクトル画像が構成される。
 フィルター処理は、フィルタパラメータを入力可能な参照型の平滑化フィルターを用いて行うことができる。例えばジョイントバイラテラルフィルター、ガイデッドフィルター等を用いることができる。
 ジョイントバイラテラルフィルターによるフィルタリング処理は、例えば下記の式(5)で表される。
Figure JPOXMLDOC01-appb-M000005
 式(5)で、
 xは、注目画素の位置を表す座標である。
 Ω(x)は、位置xを中心とする局所領域を示す。
 yは、局所領域Ω(x)内の位置を表す座標である。
 DIN(y)は、バンド画像DINの位置yにおける画素値を示す。
 DOUT(x)は、出力画像DOUTの位置xにおける画素値を示す。
 なお上記の局所領域Ω(x)の範囲は、上記の式(3)又は(4)における局所領域Ω(x)の範囲と同じでなくても良い。
 式(5)で、Wsは距離重みであり、例えば下記の式(6)によって求められる。
Figure JPOXMLDOC01-appb-M000006
 式(6)で、
 d(y,x)は座標yで表される位置と座標xで表される位置との距離を示す。
 σは、距離重みWsを決定するパラメータであり、分散を示す。
 式(5)で、Wcは、画素値重みであり、例えば下記の式(7)によって求められる。
Figure JPOXMLDOC01-appb-M000007
 式(7)で、σは、画素値重みWcを決定するパラメータであり、分散を示す。
 本実施の形態では、上記の式(3)で与えられたvar(x)又は式(4)で与えられたbw(x)又はそれらを正規化した値が、パラメータσとして用いられる。
 実施の形態1の画像処理装置3では、十分な信号量が得られない波長帯域のバンド画像を含むマルチスペクトル画像を取得した際に、エッジを失うことなくマルチスペクトル画像のSN比を向上させることができる。
 また、画像合成部31が、図3に示されるように、ノイズ量算出部311を含むので、合成に使用するバンド画像のノイズ量に応じて合成重みを定めることにより、SN比のより高い参照画像MSrを生成することができ、従って、SN比が高い出力画像を得ることができる。
 上記の例では、複数のバンド光源が、可視光の波長帯域の光源、紫外光の波長帯域の光源、及び近赤外光の波長帯域の光源を含む。複数のバンド光源の組合せは上記の例に限定されない。例えば、可視光の波長帯域がさらに分割されていても良い。例えば、可視光の波長帯域の光源の代わりに、赤色の波長帯域の光源と、緑色の波長帯域の光源と、青色の波長帯域の光源とが設けられていても良い。
 上記の例では、パラメータ算出部32で画像特徴量として分散又はエッジ量が求められ、それらの値又はそれらの正規化値が、合成重みを決めるためのパラメータσとして用いられる。パラメータ算出部32で求める画像特徴量は、分散又はエッジ量以外の値であっても良い。いずれにしても画像特徴量又はその逆数、或いはそれらの正規化値が、合成重みを決めるためのパラメータとして用いられれば良い。
実施の形態2.
 図5は本発明の実施の形態2の画像処理装置3bを示す。
 図示の画像処理装置3bは、図1の画像処理装置3と概して同じであるが、画像合成部31の代わりに画像合成部31bを備える。
 実施の形態1の画像合成部31は、ノイズ量が多いバンド画像の合成重みを小さくして画像合成を行う。本実施の形態の画像合成部31bは、バンド画像間の画像相関に基づいて決定される合成重みを用いて画像合成を行う。
 各バンド画像は、その波長帯域によって画像特徴が異なり、2枚のバンド画像間では波長帯域が離れれば離れるほど画像特徴の差異が大きくなる。
 本実施の形態では、ある波長帯域のバンド画像のノイズを低減したい場合、当該ターゲットとする波長帯域のバンド画像(ターゲットとする波長帯域の画像)との画像相関が大きいバンド画像の合成重みを大きくして画像合成を行って参照画像を生成する。
 画像合成部31bは、複数のバンド画像DINを合成して、各バンド画像よりも高いSN比を有する参照画像MSrを生成する。
 画像合成部31bは、例えば図6に示されるように、相関算出部313と、加重合成部312bとを有する。
 相関算出部313は、複数のバンド画像DINの各々について、ターゲットとする波長帯域のバンド画像との画像相関Corを算出する。
 各バンド画像と、ターゲットとする波長帯域のバンド画像との画像相関Corは例えば、各バンド画像とターゲットとする波長帯域のバンド画像との波長の差に基づいて求めることができる。この場合、上記の差が小さいほど画像相関が高いとみなすこととしても良い。
 この場合上記の画像相関は、波長を変数とする関数で表すことができる。
 図7(a)~(c)に、画像相関の例を示す。図7(a)~(c)で、横軸は、各バンド画像の波長を示し、縦軸は、画像相関を示す。画像相関は、任意単位(a.u.)で表されている。
 横軸上のλは、ターゲットとする波長帯域の中心波長又はピーク波長(ターゲット波長)を示す。
 図7(a)に示される例では、相関は、ターゲット波長λで最も高く、λとの差が大きくなるに伴って、直線に沿って減少する。
 図7(b)に示される例では、相関は、ターゲット波長λとの差が設定された差分閾値以下である範囲では、一定の値を維持し、上記の差が差分閾値を超える範囲では、0である。
 図7(c)に示される例では、相関は、ターゲット波長λを中心とした正規分布曲線に沿って変化する。
 上記の例では、相関算出部313が、各バンド画像について、ターゲットとする波長帯域のバンド画像との波長の差に基づいて画像相関を求めている。
 代わりに、各バンド画像について、ターゲットとする波長帯域のバンド画像との類似度に基づいて画像相関を求めることとしても良い。
 類似度の指標としては、例えば、SAD(Sum of Absolute Differences)、SSD(Sum of Squared Differnces)、NCC(Normalaized Cross Correlation)、ZNCC(Zero-means Normalaized Cross Correlation)等を用いることができる。
 各バンド画像MSについてのSAD(符号SAで表す)は、下記の式(8)で求められる。
Figure JPOXMLDOC01-appb-M000008
 各バンド画像MSについてのSSD(符号SSで表す)は、下記の式(9)で求められる。
Figure JPOXMLDOC01-appb-M000009
 各バンド画像MSについてのNCC(符号NCで表す)は、下記の式(10)で求められる。
Figure JPOXMLDOC01-appb-M000010
 各バンド画像MSについてのZNCC(符号ZNCで表す)は、下記の式(11)で求められる。
Figure JPOXMLDOC01-appb-M000011
 式(8)~(11)において、
 xは、注目画素の位置を表す座標である。
 MS(x)は、バンド画像MSの位置xにおける画素値を示す。
 MSt(x)は、ターゲットとする波長帯域のバンド画像MStの、位置xにおける画素値を示す。
 MSmは、画像MS内のすべての画素についての画素値MS(x)の平均値を示す。
 MStmは、画像MSt内のすべての画素についての画素値MSt(x)の平均値を示す。
 SAD及びSSDの値は、類似度が大きいほど、小さくなる。NCC及びZNCCの値は、類似度が大きいほど、大きくなる。
 画像の強度(明るさ、輝度)を含めた特徴についての比較を行いたい場合はSAD及びSSDが適しており被写体の特定の波長帯域での分光反射特性を抽出したい場合は、正規化により画像の強度(画素値の大きさ)に依存しない値が得られるNCC及びZNCCが適する。
 加重合成部312bは、画像相関Corが大きいバンド画像の合成重みが大きくなるように複数のバンド画像DINを合成して参照画像MSrを生成する。合成は、複数のバンド画像の互いに同じ位置の画素値を加重加算することで行われる。即ち、加重合成部312bは、複数のバンド画像DINの同じ位置の画素値の加重平均を、参照画像MSrの同じ位置の画素値とする。
 ある画素(注目画素)についての加重平均は、例えば、上記の式(1)で表される演算により求められる。
 但し、各バンド画像MSの画素値MS(x)に対する合成重みWとしては、当該バンド画像MSの画像相関Corの正規化値が用いられる。各バンド画像についての画像相関の正規化値は、当該バンド画像についての画像相関を、全バンド画像についての画像相関の平均で除算することで得られる値である。従って、合成重みWは下記の式(12)で表される。
Figure JPOXMLDOC01-appb-M000012
 上記の例では、画像の類似度を画像全体について求めているが、類似度を画素毎に求め、画像相関を画素毎に求めて良い。
 その場合、式(8)~(11)では、注目画素を中心とする局所領域内の画素を用いて、類似度を求め、求めた類似度から注目画素についての画像相関を求める。
 実施の形態2の画像処理装置3bでも、十分な信号量が得られない波長帯域のバンド画像を含むマルチスペクトル画像を取得した際に、エッジを失うことなくマルチスペクトル画像のSN比を向上させることができる。
 また、画像合成部31が、図6に示されるように相関算出部313を含むので、合成に使用するバンド画像とターゲットとなる波長帯域のバンド画像との画像相関に応じて合成重みを定めることにより、画像特徴の崩れのより少ない出力画像を生成することができる。
 実施の形態1に関し、加重合成の他の例として、予め設定したノイズ量閾値を用いて重みWを0か1に設定して加重平均を求める方法を説明した。実施の形態2においても同様の変形を加えることが可能である。
 即ち、予め設定した相関閾値を用いて重みWを0か1に設定し、加重平均を求めることとしても良い。例えば、画像相関が画像相関閾値以上であれば重みWを1とし、そうでなければ重みWを0とし、Mの代わりに重みWを1としたバンド画像の数を用いて、加重平均を求めることとしても良い。
実施の形態3.
 図8は、本発明の実施の形態3の画像処理装置3cを示す。
 図示の画像処理装置3cは、図1の画像処理装置3と概して同じであるが、図1の画像合成部31を備えず、図1のパラメータ算出部32の代わりに、パラメータ算出部32cを備える。
 また、画像処理装置3cには、図1のバンド画像DINの他、白色画像DIWが入力される。
 バンド画像DINは図1のバンド画像と同様のものである。
 白色画像DIWは複数のバンド画像DINの帯域をすべて含む帯域を持つ画像であり、参照画像として用いられる。白色画像DIWの帯域は、複数のバンド画像DINの帯域をすべて合わせた帯域よりも広いことが望ましい。
 パラメータ算出部32cは、白色画像DIWを解析し、白色画像DIWの各画素について、局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータD32cを算出する。
 パラメータ算出部32cにおける処理の内容は、図1のパラメータ算出部32における処理と同様である。異なるのは、白色画像DIWを参照画像として用いてフィルタパラメータを求めている点である。
 フィルター処理部33は、複数のバンド画像DINに対して、フィルタパラメータD32cを用いてエッジを保存しながら平滑化を行い、複数の出力画像DOUTを生成する。
 フィルター処理部33における処理の内容は、図1のフィルター処理部33における処理と同様である。
 実施の形態3の画像処理装置3cでは、複数のバンド画像の帯域をすべて含む帯域を持つ白色画像を取得し、参照画像として用いることができる。従って、使用する光源の波長帯域数が少ない場合にも、十分な信号量が得られない波長帯域のバンド画像を含むマルチスペクトル画像を取得した際に、エッジを失うことなくマルチスペクトル画像のSN比を向上させることができる。
実施の形態4.
 図9は、本発明の実施の形態4の画像処理装置3dを示す。
 図示の画像処理装置3dは、図8の画像処理装置3cと概して同じであるが、バンドパスフィルター群34を備える。また、画像処理装置3dには、複数のバンド画像DINが入力されず、白色画像DIWのみが入力される。
 バンドパスフィルター群34は、白色画像を入力として、互いに異なる波長帯域を通過させる複数のバンドパスフィルターを有し、バンドパスフィルター群34からは、互いに波長帯域の異なる複数のバンド画像D34が出力される。
 上記の実施の形態1~3では、波長帯域の異なる複数のバンド光源により原稿が順次照射されているときに、撮像を行うことで、複数のバンド画像DINを順次取得している。これに対し、実施の形態4では、帯域の広い白色画像を互いに異なる波長帯域を通過させる複数のバンドパスフィルターを用いて複数のバンド画像DINを生成している。
 フィルター処理部33は、複数のバンド画像D34に対して、フィルタパラメータD32cを用いてエッジを保存しながら平滑化を行い、複数の出力画像DOUTを生成する。
 実施の形態4でも実施の形態1~3と同様の効果が得られる。
 上記の実施の形態1~4では、画像処理装置が画像読み取り装置の一部を成すものである。しかしながら、本発明の画像処理装置は、画像読み取り以外の用途においても利用可能である。例えば、光学衛星或いは航空機から地上などを撮影する場合にも利用可能である。
 実施の形態1~4で説明した画像処理装置3、3b、3c及び3dは、その一部又は全部を処理回路で構成し得る。
 例えば、画像処理装置の各部分の機能をそれぞれ別個の処理回路で実現してもよいし、複数の部分の機能をまとめて1つの処理回路で実現しても良い。
 処理回路はハードウェアで構成されていても良くソフトウェアで、即ちプログラムされたコンピュータで構成されていても良い。
 画像処理装置の各部分の機能のうち、一部をハードウェアで実現し、他の一部をソフトウェアで実現するようにしても良い。
 図10は、単一のプロセッサを含むコンピュータ9で上記の実施の形態の各々の画像処理装置3、3b、3c又は3dのすべての機能を実現する場合の構成の一例を、光源1及びイメージセンサー2とともに示す。
 図示の例ではコンピュータ9は、プロセッサ91及びメモリ92を有する。
 メモリ92には、画像処理装置の各部の機能を実現するためのプログラムが記憶されている。
 プロセッサ91は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、マイクロプロセッサ、マイクロコントローラ又はDSP(Digital Signal Processor)等を用いたものである。
 メモリ92は、例えばRAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)若しくはEEPROM(Electrically Erasable Programmable Read Only Memory)等の半導体メモリ、磁気ディスク、光ディスク、又は光磁気ディスク等を用いたものである。
 プロセッサ91は、メモリ92に記憶されているプログラムを実行することにより、画像処理装置の機能を実現する。
 図10で示されるコンピュータで、実施の形態1又は2の画像処理装置における処理を実施する場合の手順を図11を参照して説明する。
 ステップST11では、複数のバンド画像DINを入力する。
 ステップST12では、複数のバンド画像DINを合成して参照画像MSrを生成する。この処理は、画像合成部31又は31bについて説明したように行われる。
 ステップST13では、参照画像MSrを解析して局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータD32を算出する。この処理は、パラメータ算出部32について説明したように行われる。
 ステップST14では、複数のバンド画像DINに対して、フィルタパラメータD32を用いてエッジを保存しながら平滑化を行う。この処理は、フィルター処理部33について説明したように行われる。
 図10で示されるコンピュータで、実施の形態3の画像処理装置における処理を実施する場合の手順を図12を参照して説明する。
 図12で図11と同様の処理は同じ符号で示されている。
 ステップST11では、複数のバンド画像DINを入力する。
 ステップST22では、白色画像DIWを入力する。
 ステップST13cでは、白色画像DIWを解析して局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータD32cを算出する。この処理は、パラメータ算出部32cについて説明したように行われる。
 ステップST14では、複数のバンド画像DINに対して、フィルタパラメータD32cを用いてエッジを保存しながら平滑化を行う。この処理は、フィルター処理部33について説明したように行われる。
 図10で示されるコンピュータで、実施の形態4の画像処理装置における処理を実施する場合の手順を図13を参照して説明する。
 図13で図11又は図12と同様の処理は同じ符号で示されている。
 ステップST22では、白色画像DIWを入力する。
 ステップST13cでは、白色画像DIWを解析して局所分散値又はエッジ量を画像特徴量として算出し、画像特徴量からフィルタパラメータD32cを算出する。この処理は、パラメータ算出部32cについて説明したように行われる。
 ステップST33では、白色画像DIWに対して互いに異なる波長帯域を通過させるバンドパスフィルタリングを行なって、複数のバンド画像D34を生成する。この処理は、バンドパスフィルター群34について説明したように行われる。
 ステップST33の処理は、ステップST13cの処理と並行して行い得る。
 ステップST14では、複数のバンド画像D34に対して、フィルタパラメータD32cを用いてエッジを保存しながら平滑化を行う。この処理は、フィルター処理部33について説明したように行われる。
 以上本発明の画像処理装置について説明したが、上記の画像処理装置で実施される画像処理方法もまた本発明の一部を成す。また、上記の画像処理装置、又は画像処理方法における処理をコンピュータに実行させるプログラム及び該プログラムを記録した、コンピュータで読取可能な記録媒体、例えば非一時的な記録媒体もまた本発明の一部を成す。
 本発明の実施の形態について説明したが、本発明はこれらの実施の形態に限るものではない。
 1 光源、 2 イメージセンサー、 3,3b,3c,3d 画像処理装置、 31 画像合成部、 32,32c パラメータ算出部、 33 フィルター処理部、 34 バンドパスフィルター群、 311 ノイズ量算出部、 312,312b 加重合成部、 313 相関算出部。

Claims (15)

  1.  マルチスペクトル画像を構成する複数のバンド画像と同じ視野の参照画像を解析して局所分散値又はエッジ量を画像特徴量として算出し、前記画像特徴量からフィルタパラメータを算出するパラメータ算出部と、
     前記フィルタパラメータを用いて前記バンド画像に対してエッジ保存型平滑化処理を行うフィルター処理部と
     を備えることを特徴とする画像処理装置。
  2.  前記複数のバンド画像は、比較的狭い帯域の複数の光源で被写体が順次照射されている間に撮像を行うことにより取得される
     ことを特徴とする請求項1に記載の画像処理装置。
  3.  前記複数の光源は、可視光の波長帯域の光源、紫外光の波長帯域の光源、及び近赤外光の波長帯域の光源とを含む
     ことを特徴とする請求項2に記載の画像処理装置。
  4.  前記複数のバンド画像を合成して前記参照画像を生成する画像合成部をさらに備える
     ことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5.  前記画像合成部は、前記複数のバンド画像の各々についてノイズ量を算出し、前記ノイズ量が少ないバンド画像の合成重みが大きくなるように前記合成を行うことで前記参照画像を生成する
     ことを特徴とする請求項4に記載の画像処理装置。
  6.  前記画像合成部は、前記複数のバンド画像の各々について、ターゲットとする波長帯域のバンド画像との画像相関を算出し、前記画像相関が大きいバンド画像の合成重みが大きくなるように前記合成を行うことで前記参照画像を生成する
     ことを特徴とする請求項4に記載の画像処理装置。
  7.  前記画像合成部は、前記複数のバンド画像の各々について、ターゲットとする波長帯域のバンド画像との波長の差に基づいて前記画像相関を算出する
     ことを特徴とする請求項6に記載の画像処理装置。
  8.  前記画像合成部は、前記複数のバンド画像の各々について、ターゲットとする波長帯域のバンド画像との類似度を前記画像相関として算出する
     ことを特徴とする請求項6に記載の画像処理装置。
  9.  前記画像合成部は、前記画像相関を画素毎に算出し、算出した画像相関に基づいて前記合成重みを画素毎に定めて前記合成を行う
     ことを特徴とする請求項8に記載の画像処理装置。
  10.  前記参照画像は、前記複数のバンド画像の帯域をすべて含む帯域を持つ白色画像である
     ことを特徴とする請求項1に記載の画像処理装置。
  11.  前記複数のバンド画像は、前記複数のバンド画像の帯域をすべて含む帯域を持つ白色画像を入力とし、互いに異なる波長帯域の複数のバンドパスフィルターを通過させることにより取得される
     ことを特徴とする請求項1に記載の画像処理装置。
  12.  原稿を照射する光源と、
     原稿を撮像するイメージセンサーと、
     前記イメージセンサーによる撮像で得られた画像を処理する請求項1から11のいずれか1項に記載の画像処理装置と
     を有する画像読み取り装置。
  13.  マルチスペクトル画像を構成する複数のバンド画像と同じ視野の参照画像を解析して局所分散値又はエッジ量を画像特徴量として算出し、前記画像特徴量からフィルタパラメータを算出し、
     前記フィルタパラメータを用いて前記バンド画像に対してエッジ保存型平滑化処理を行う
     ことを特徴とする画像処理方法。
  14.  請求項13に記載の画像処理方法における処理をコンピュータに実行させるためのプログラム。
  15.  請求項14に記載のプログラムを記録した、コンピュータで読取可能な記録媒体。
PCT/JP2019/019497 2019-05-16 2019-05-16 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体 WO2020230319A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
PCT/JP2019/019497 WO2020230319A1 (ja) 2019-05-16 2019-05-16 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体
US17/608,481 US20220222782A1 (en) 2019-05-16 2019-05-16 Image processing device, method, image reading device, and recording medium
DE112019007327.3T DE112019007327T5 (de) 2019-05-16 2019-05-16 Bildverarbeitungseinrichtung, Verfahren, Bildleseeinrichtung, Programm und Aufzeichnungsmedium
CN201980096097.1A CN113812137B (zh) 2019-05-16 2019-05-16 图像处理装置和方法、图像读取装置和记录介质
JP2021519229A JP7142772B2 (ja) 2019-05-16 2019-05-16 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/019497 WO2020230319A1 (ja) 2019-05-16 2019-05-16 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体

Publications (1)

Publication Number Publication Date
WO2020230319A1 true WO2020230319A1 (ja) 2020-11-19

Family

ID=73289155

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/019497 WO2020230319A1 (ja) 2019-05-16 2019-05-16 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体

Country Status (5)

Country Link
US (1) US20220222782A1 (ja)
JP (1) JP7142772B2 (ja)
CN (1) CN113812137B (ja)
DE (1) DE112019007327T5 (ja)
WO (1) WO2020230319A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022063720A (ja) * 2020-10-12 2022-04-22 日本電気株式会社 画像補正装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001008038A (ja) * 1999-06-24 2001-01-12 Fuji Photo Film Co Ltd 画像処理方法および画像処理装置およびマルチバンドカラー写真システム
JP2015122634A (ja) * 2013-12-24 2015-07-02 オリンパス株式会社 画像処理装置、撮像装置、プログラム及び画像処理方法
WO2017104291A1 (ja) * 2015-12-18 2017-06-22 三菱電機株式会社 画像処理装置及び画像処理方法
JP2017199066A (ja) * 2016-04-25 2017-11-02 三菱電機株式会社 画像処理装置及び画像処理方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1857008B (zh) * 2004-02-19 2010-05-05 三菱电机株式会社 图像处理方法
JP5035029B2 (ja) * 2008-03-03 2012-09-26 ソニー株式会社 信号処理装置および方法、並びにプログラム
JP5538684B2 (ja) * 2008-03-13 2014-07-02 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、及び記憶媒体
JP5315158B2 (ja) * 2008-09-12 2013-10-16 キヤノン株式会社 画像処理装置及び画像処理方法
JP5665508B2 (ja) * 2010-11-30 2015-02-04 キヤノン株式会社 画像処理装置及び方法、並びにプログラム及び記憶媒体
RU2616653C2 (ru) * 2012-06-05 2017-04-18 Хайпермед Имэджинг, Инк. Способы и устройство для соосного формирования изображения с множеством длин волн
JP6124518B2 (ja) * 2012-06-28 2017-05-10 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、及び画像処理プログラム
US9972072B2 (en) 2013-09-12 2018-05-15 Nec Corporation Noise reduction apparatus, method and program for the same
WO2018198251A1 (ja) * 2017-04-26 2018-11-01 オリンパス株式会社 画像処理装置、画像処理装置の作動方法及び画像処理装置の作動プログラム
JP6857079B2 (ja) * 2017-05-09 2021-04-14 株式会社キーエンス 画像検査装置
CN108109113A (zh) * 2017-11-09 2018-06-01 齐鲁工业大学 基于双边滤波和中值滤波的单幅图像去雾方法和装置
JP6897585B2 (ja) * 2018-01-24 2021-06-30 コニカミノルタ株式会社 放射線画像処理装置、散乱線補正方法及びプログラム
CN109447909A (zh) * 2018-09-30 2019-03-08 安徽四创电子股份有限公司 基于视觉显著性的红外与可见光图像融合方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001008038A (ja) * 1999-06-24 2001-01-12 Fuji Photo Film Co Ltd 画像処理方法および画像処理装置およびマルチバンドカラー写真システム
JP2015122634A (ja) * 2013-12-24 2015-07-02 オリンパス株式会社 画像処理装置、撮像装置、プログラム及び画像処理方法
WO2017104291A1 (ja) * 2015-12-18 2017-06-22 三菱電機株式会社 画像処理装置及び画像処理方法
JP2017199066A (ja) * 2016-04-25 2017-11-02 三菱電機株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
US20220222782A1 (en) 2022-07-14
CN113812137A (zh) 2021-12-17
CN113812137B (zh) 2024-03-15
DE112019007327T5 (de) 2022-03-24
JPWO2020230319A1 (ja) 2021-10-14
JP7142772B2 (ja) 2022-09-27

Similar Documents

Publication Publication Date Title
US11164295B2 (en) Methods and apparatus for enhancing optical images and parametric databases
KR100879536B1 (ko) 영상의 화질 개선을 위한 방법 및 시스템
Wang et al. Low illumination color image enhancement based on Gabor filtering and Retinex theory
US10699395B2 (en) Image processing device, image processing method, and image capturing device
TWI375460B (ja)
Liu et al. Survey of natural image enhancement techniques: Classification, evaluation, challenges, and perspectives
Tian et al. Global and local contrast adaptive enhancement for non-uniform illumination color images
US8139891B2 (en) System and method for structure enhancement and noise reduction in medical images
Rahman et al. Structure revealing of low-light images using wavelet transform based on fractional-order denoising and multiscale decomposition
Rahman et al. Image enhancement, image quality, and noise
Mahmood et al. Human visual enhancement using multi scale retinex
Priyanka et al. Low-light image enhancement by principal component analysis
Al-Hashim et al. Retinex-Based Multiphase Algorithm for Low-Light Image Enhancement.
JPWO2018037920A1 (ja) 画像処理装置、画像処理方法及びコンピュータ読み取り可能記録媒体
WO2020230319A1 (ja) 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体
CN106033598B (zh) 一种用于消除散射辐射影响的数字滤线栅成像方法
CN115578304B (zh) 一种结合显著性区域检测的多波段图像融合方法和系统
Kumar et al. A multi-exposure fusion framework for contrast enhancement of hazy images employing dynamic stochastic resonance
Zhu et al. Noise reduced high dynamic range tone mapping using information content weights
Tsai et al. Multiexposure image fusion using intensity enhancement and detail extraction
Lavreniuk et al. Use of modified BM3D filter and CNN classifier for SAR data to improve crop classification accuracy
Unaldi et al. Image enhancement for improving face detection under non-uniform lighting conditions
Sandeepa et al. Standard intensity deviation approach based clipped sub image histogram equalization algorithm for image enhancement
Rahman et al. Impact of multi-scale retinex computation on performance of segmentation algorithms
Lal et al. Enhancement of hyperspectral real world images using hybrid domain approach

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19928396

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021519229

Country of ref document: JP

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 19928396

Country of ref document: EP

Kind code of ref document: A1