JPWO2017056834A1 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JPWO2017056834A1
JPWO2017056834A1 JP2017543043A JP2017543043A JPWO2017056834A1 JP WO2017056834 A1 JPWO2017056834 A1 JP WO2017056834A1 JP 2017543043 A JP2017543043 A JP 2017543043A JP 2017543043 A JP2017543043 A JP 2017543043A JP WO2017056834 A1 JPWO2017056834 A1 JP WO2017056834A1
Authority
JP
Japan
Prior art keywords
value
pixel
image
input image
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017543043A
Other languages
English (en)
Other versions
JP6352547B2 (ja
Inventor
哲也 藤川
哲也 藤川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Application granted granted Critical
Publication of JP6352547B2 publication Critical patent/JP6352547B2/ja
Publication of JPWO2017056834A1 publication Critical patent/JPWO2017056834A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4076Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on references outside the picture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Abstract

本発明は、高輝度な被写体のディテールを消失させることなくヘイズを除去(ヘイズの影響を軽減)することができる画像処理装置及び画像処理方法を提供する。本発明の態様において、入力画像Iが元画像J、大気光画素値A、透過率tに対してI=J・t+A・(1−t)により表されるとき、入力画像Iの各画素のダークチャネル値Dを算出し、Dが0から1の範囲の画素に対して単調減少する値の透過率tを対応付け、するヘイズに対すDが1からDmaxの範囲の画素に対して単調増加する値の透過率tを対応付けて元画像Jを補正画像として生成する。

Description

本発明は画像処理装置及び画像処理方法に係り、画像に含まれる靄や霧のようなヘイズを除去する画像処理装置及び画像処理方法に関する。
カメラで撮影した画像において、景色が靄や霧などのヘイズで白むことがあり、撮影目的の被写体の本来の色がそのまま反映された画像(以下、元画像という)にヘイズが重畳し、コントラストの低下、画像全体の輝度の上昇などにより被写体の視認性が低下する場合がある。
このようなヘイズを含む画像(以下、補正前画像又は入力画像という)からヘイズを除去する画像処理技術として、ダーク・チャネル・プライア(dark channel prior)という手法が知られている(例えば、特許文献1等参照)。
ダーク・チャネル・プライアは、ヘイズのない画像、特に屋外の画像の多くは、局所領域内の少なくとも1つの画素において、R、G、Bの各色チャネルのいずれかの強度値が極めて小さい(通常は0に近い)値を示すという経験的事実に基づく。そして、このことから、ヘイズを含む補正前画像において各局所領域の各画素の各色チャネルの強度値のうちの最小値は各局所領域におけるヘイズの影響度の大きさを示し、各局所領域におけるヘイズの影響度の大きさが0となるような処理でヘイズを除去する。
米国特許第8340461号明細書
ダーク・チャネル・プライアにより適切にヘイズを除去するためには、上述のようにヘイズのない画像(元画像)において局所領域内の少なくとも1つの画素の1つの色チャネルの強度値が0に近い値を示すことが前提となる。
しかしながら、元画像において高輝度の被写体(画像範囲)が存在する場合に、その高輝度の画像範囲内の局所領域では、全ての画素の全ての色チャネルにおいて強い強度値を示す場合がある。
そのような元画像とヘイズとが重畳された補正前画像に対して、高輝度の画像範囲に関しても他の画像範囲と同様なダーク・チャネル・プライアの処理によりヘイズ除去の補正を行うものとすると、上記のことから高輝度の画像範囲では、元画像に対するヘイズの影響度が正しく得られず、実際の影響度とは関係なく、ヘイズの影響度が極めて大きく、元画像の影響度が極めて小さいものとして処理される。
その際、ヘイズを除去しようとすると、高輝度の画像範囲が補正画像において飽和し、ディテール(輝度や色の細かな変化)が消失してしまうという問題があった。
本発明はこのような事情に鑑みてなされたもので、高輝度な被写体のディテールを消失させることなくヘイズを除去(ヘイズの影響を軽減)することができる画像処理装置及び画像処理方法を提供することを目的とする。
上記目的を達成するために、本発明の一の態様に係る画像処理装置は、元画像と、元画像に重畳された除去すべき除去画像とからなる入力画像であって、各画素に応じた1から0の範囲の透過率をtとした場合に元画像の各画素の画素値にtを乗じて得られる値と、除去画像の各画素の画素値であって、1からtを減算した値を重畳画素値に乗じて得られる値との加算値を各画素の画素値とする入力画像を取り込む入力画像取込手段と、入力画像に基づいて重畳画素値を算出する重畳画素値算出手段と、入力画像と重畳画素値とに基づいて、入力画像の各画素に対する除去画像の影響度を推定した値であり、かつ、最小値と最大値のうちの一方の限界値である第1限界値から、最小値と最大値との間の予め決められた境界値に値が近づくほど影響度が大きいことを示す影響推定値であって、透過率tの値に予め対応付けられた影響推定値を算出する影響推定値算出手段と、入力画像、影響推定値、及び重畳画素値に基づいて、入力画像の各画素の画素値に対する補正を実施することにより、入力画像から除去画像の影響を低減した補正画像を生成する補正処理手段と、を備え、補正処理手段は、影響推定値が第1限界値から境界値までの範囲の画素に対しては、1から0に向けて減少する値として対応付けられた透過率tに基づいた補正量で補正を実施し、影響推定値が境界値から最小値と最大値のうちの第1限界値と異なる他方の第2限界値までの範囲の画素に対しては、少なくとも透過率tを0としたときの画素値の補正量よりも小さい補正量となる補正を実施する手段である。
本態様によれば、入力画像に対する除去画像の影響度を推定する影響度推定値が境界値から第2限界値までの範囲の値を示す画素については、除去画像ではない高輝度の被写体によって除去画像の影響度を正しく推定していないとして、補正量が抑止される。そのため、高輝度の被写体のディテールが消失するのを防止することができる。
本発明の他の態様に係る画像処理装置において、第1限界値から境界値までの範囲の影響推定値に対して、透過率tは1から0まで単調減少する一次関数により対応付けられた態様とすることができる。
本発明の他の態様に係る画像処理装置において、第1限界値から境界値までの範囲の影響推定値に対して、透過率tは上に凸で単調減少する値として対応付けられた態様とすることができる。
本発明の他の態様に係る画像処理装置において、補正処理手段は、影響推定値が境界値から第2限界値までの範囲の画素に対して、影響推定値に予め対応付けられた透過率tに基づいて補正を実施する態様とすることができる。
本発明の他の態様に係る画像処理装置において、境界値から第2限界値までの範囲の影響推定値に対して、透過率tは0から1に向けて増加する値として対応付けられた態様とすることができる。
本発明の他の態様に係る画像処理装置において、境界値から第2限界値までの範囲の影響推定値に対して、透過率tは0より大きく、1以下の一定値として対応付けられた態様とすることができる。
本発明の他の態様に係る画像処理装置において、重畳画素値算出手段は、白画像と入力画像との差分を示す差分画像における各画素の画素値を変数として予め決められた関数により導かれる差分値を各画素ごとに算出し、差分値の小さい画素から順に累積したときの画素の累積数が予め決められた特定数になるときの差分値を境界差分値として求め、境界差分値を有する画素の入力画像における画素値の平均値を重畳画素値として算出する手段である態様とすることができる。
本発明の他の態様に係る画像処理装置において、入力画像の各画素の画素値、及び、重畳画素値は、色空間における複数チャネルのチャネル値からなり、重畳画素値算出手段は、入力画像の各画素を順に着目画素として、入力画像における着目画素を含む局所領域内の全ての画素の全てのチャネルのチャネル値のうちの最小値を着目画素とした画素の評価値として求め、評価値の大きい画素から順に累積したときの画素の累積数が予め決められた特定数になるときの評価値を境界評価値として求め、境界評価値を有する画素の入力画像における画素値の平均値を重畳画素値として算出する手段である態様とすることができる。
本発明の他の態様に係る画像処理装置において、差分画像の各画素の画素値は色空間における複数チャネルのチャネル値からなり、重畳画素値算出手段は、複数チャネルのチャネル値の各々に予め決められた係数を乗じて加算した値を差分値として算出する態様とすることができる。
本発明の他の態様に係る画像処理装置において、差分画像の複数チャネルのチャネル値として、輝度成分のチャネル値をY、輝度成分のチャネル値の最大値をYmax、青色色差成分のチャネル値をCb、赤色色差成分のチャネル値をCrとし、係数をα、βとすると、重畳画素値算出手段は、差分値を、α(Ymax−Y)+β|Cb|+β|Cr|により算出する態様とすることができる。
本発明の他の態様に係る画像処理装置において、入力画像の各画素の画素値、及び、重畳画素値は、色空間における複数チャネルのチャネル値からなり、影響推定値算出手段は、入力画像の各画素を順に着目画素として、着目画素の影響推定値を算出し、着目画素の影響推定値の算出は、入力画像における着目画素を含む局所領域内の全ての画素の全てのチャネルについて、チャネル値を重畳画素値における同一チャネルのチャネル値により除算して得られる値のうちの最小値であるダークチャネル値を算出する態様とすることができる。
本発明の他の態様に係る画像処理装置において、入力画像の各画素の画素値、及び、重畳画素値は、色空間における輝度成分、青色色差成分、及び赤色色差成分のチャネル値からなり、影響推定値算出手段は、入力画像の各画素を順に着目画素として、着目画素の影響推定値を算出し、着目画素の影響推定値の算出は、入力画像における着目画素を含む局所領域内の全ての画素について、輝度成分のチャネル値と輝度成分のチャネル値の最大値との差分値、青色色差成分のチャネル値の絶対値、及び赤色成分のチャネル値の絶対値の各々に予め決められた係数を乗じて加算した値を、重畳画素値における輝度成分のチャネル値と輝度成分のチャネル値の最大値との差分値、青色色差成分のチャネル値の絶対値、及び赤色成分のチャネル値の絶対値の各々に予め決められた係数を乗じて加算した値により除算して得られる値のうちの最大値を算出する態様とすることができる。
本発明の他の態様に係る画像処理装置において、影響推定値の境界値は1である態様とすることができる。
本発明の他の態様に係る画像処理装置において、入力画像は、元画像に対して大気障害に起因する除去画像が重畳された画像である。
また、上記目的を達成するために、本発明の他の態様に係る画像処理方法において、元画像と、元画像に重畳された除去すべき除去画像とからなる入力画像であって、各画素に応じた1から0の範囲の透過率をtとした場合に元画像の各画素の画素値にtを乗じて得られる値と、除去画像の各画素の画素値であって、1からtを減算した値を重畳画素値に乗じて得られる値との加算値を各画素の画素値とする入力画像を取り込む入力画像取込工程と、入力画像に基づいて重畳画素値を算出する重畳画素値算出工程と、入力画像と重畳画素値とに基づいて、入力画像の各画素に対する除去画像の影響度を推定した値であり、かつ、最小値と最大値のうちの一方の限界値である第1限界値から、最小値と最大値との間の予め決められた境界値に値が近づくほど影響度が大きいことを示す影響推定値であって、透過率tの値に予め対応付けられた影響推定値を算出する影響推定値算出工程と、入力画像、影響推定値、及び重畳画素値に基づいて、入力画像の各画素の画素値に対する補正を実施することにより、入力画像から除去画像の影響を低減した補正画像を生成する補正処理工程と、を備え、補正処理工程は、影響推定値が第1限界値から境界値までの範囲の画素に対しては、1から0に向けて減少する値として対応付けられた透過率tに基づいた補正量で補正を実施し、影響推定値が境界値から最小値と最大値のうちの第1限界値と異なる他方の第2限界値までの範囲の画素に対しては、少なくとも透過率tを0としたときの画素値の補正量よりも小さい補正量となる補正を実施する工程である。
本態様によれば、入力画像に対する除去画像の影響度を推定する影響度推定値が境界値から第2限界値までの範囲の値を示す画素については、除去画像ではない高輝度の被写体によって除去画像の影響度を正しく推定していないとして、補正量が抑止される。そのため、高輝度の被写体のディテールが消失するのを防止することができる。
本発明によれば、高輝度な被写体のディテールを消失させることなくヘイズを除去することができる。
本発明が適用された画像処理装置の構成図 図1の画像処理装置により実施する画像補正方法の全体手順(工程)を示したフローチャート ヘイズを含む画像の撮影時のイメージ図 大気光画素値算出工程での処理手順を示したフローチャート 大気光画素値算出工程での処理手順を示した説明図 第1の実施の形態におけるダークチャネル値と透過率との対応関係を示した図 本発明による効果を示した図 第2の実施の形態におけるダークチャネル値と透過率との対応関係を示した図 第3の実施の形態におけるダークチャネル値と透過率との対応関係を示した図 第4の実施の形態におけるダークチャネル値と透過率との対応関係を示した図 ダークチャネル値と透過率との対応関係を示した図であって図6の一部を変更した図
以下、添付図面に従って本発明の好ましい実施の形態について詳説する。
図1は、本発明が適用された画像処理装置を示した構成図である。同図に示す画像処理装置10は、補正前の画像を入力画像として取込み、その入力画像から靄や霧などのヘイズを除去した画像を補正画像として出力する装置である。なお、本明細書においてヘイズの除去とは、ヘイズの影響を軽減することも含む。
この画像処理装置10は、デジタルスチルカメラ、カメラ機能付き携帯電話、ビデオカメラ、監視カメラ、デジタル双眼鏡など、撮像手段により画像を取得する装置に搭載され、撮像手段により取得された画像を入力画像として取り込み、その入力画像からヘイズを除去した補正画像を出力する。
また、画像処理装置10はパーソナルコンピュータのような撮像手段を直接的には備えない装置に組み込まれるものであってもよく、ユーザ等により選択された任意の画像を入力画像としてその入力画像からヘイズを除去した補正画像を出力するものであってもよい。
図1に示すように、画像処理装置10は、補正対象とする補正前の画像を入力画像として取り込む入力画像取込手段12と、入力画像に基づいて大気光画素値を算出する大気光画素値算出手段14と、入力画像と大気光画素値とに基づいて、入力画像の各画素に対するダークチャネル値を算出するダークチャネル値算出手段16と、入力画像、ダークチャネル値、及び大気光画素値に基づいて、入力画像からヘイズを除去した補正画像を生成する補正処理手段18とを備える。
また、図2は、画像処理装置10において実施する画像補正方法の全体処理手順を示したフローチャートであり、本実施の形態の画像補正方法は、入力画像取込手段12により入力画像を取り込む入力画像取込工程S1と、大気光画素値算出手段14により大気光画素値を算出する大気光画素値算出工程S2と、ダークチャネル値算出手段16によりダークチャネル値を算出するダークチャネル値算出工程S3と、補正処理手段18により補正画像を生成する補正処理工程であって、後述の透過率を算出する透過率算出工程S4と、入力画像からヘイズを除去する補正画像生成工程(ヘイズ除去工程)S5と、からなる。
以下、図1の各手段及び図2の各工程について順に説明する。
入力画像取込工程S1において入力画像取込手段12により取り込まれる補正対象とする入力画像は、図3のイメージ図のように、例えば屋外の画像であり、撮影目的の被写体の本来の色がそのまま反映された元画像、即ち、撮影目的の被写体からの直接光により形成される元画像に靄や霧などのヘイズが重畳しているヘイズを含む補正前画像であるものとする。
ここで、xは1コマ分の画像中の全画素のうちから1つの画素を特定するための位置情報(座標等)や識別番号等の変数を示すものとし、補正前画像である入力画像Iにおける画素xの画素値をI(x)とし、元画像Jにおける画素xの画素値をJ(x)とし、ヘイズにより分散する大気光の画素値(大気光画素値)をAとし、画素xにおける直接光の透過率tをt(x)とする。このとき、入力画像Iの画素xの画素値I(x)は次式(1)で表される。
I(x)=J(x)・t(x)+A・(1−t(x)) …(1)
ただし、透過率tは1から0の範囲の値(0以上で、1以下の範囲の値)を示す。
したがって、下記のように大気光画素値Aと透過率t(x)を求めることで、ヘイズを除去した補正画像として元画像Jを求めることができる。
なお、本実施の形態の画像処理装置10は、色情報を有するカラー画像を処理対象の入力画像Iとし、入力画像Iの画素値I(x)、元画像Jの画素値J(x)、大気光画素値A等のような画素値は、色空間における複数の色チャネルの強度を示す複数の強度値(以下、チャネル値という)からなる。ただし、輝度情報のみからなる白黒画像を入力画像Iとしてもよく、その場合に画素値は、1つの色チャネル(輝度チャネル)の強度値(輝度値)のみからなるものとする。
大気光画素値算出工程S2において大気光画素値算出手段14は、大気光画素値算出処理として、上記のようにヘイズにより分散する大気光の色(ヘイズの色)を示す大気光画素値Aを入力画像取込手段12により取り込まれた入力画像Iに基づいて算出する。
ここで、大気光画素値算出工程S2での処理手順、即ち、大気光画素値算出手段14における大気光画素値算出処理の処理手順について図4のフローチャート、及び図5の説明図を用いて説明する。
まず、ステップS10では、画像全体が一様に白色の白画像W(図5(A)参照)と入力画像I(図5(B)参照)との差分画像S(図5(C)参照)を生成する。差分画像Sは、次式(2)で表される。
S(x)=W(x)−I(x) …(2)
ただし、S(x)、W(x)、及びI(x)は各々、差分画像S、白画像W、入力画像Iにおける画素xの画素値を示す。
また、大気光画素値算出処理においては、画像を表現する色空間としてYCbCr色空間を用いるものとし、輝度成分、青色色差成分、及び赤色色差成分からなる3つの色チャネルの各々の強度を示す3つのチャネル値により画素値を表すものとする。
例えば、輝度成分(輝度チャネル)のチャネル値を変数Y、青色色差成分(青色色差チャネル)のチャネル値を変数Cb、赤色色差成分(赤色色差チャネル)のチャネル値を変数Crにより表すとした場合、画素値は、各チャネル値Y、Cb、Crからなり、(Y、Cb、Cr)のように成分表示されるものとする。
また、任意の画像における画素値をPで表すものとして、白画像W、入力画像I、差分画像Sの各々の画像における画素値PをWP、IP、SPで表し、画像W、I、Sの各々の画像における各チャネル値[Y、Cb、Cr]を[WY、WCb、WCr]、[IY、ICb、ICr]、[SY、SCb、SCr]で表す。
なお、各画素xにおける画素値P、各チャネル値Y、Cb、Crは画素xごとの値を示すが、そのことを明示する場合には、Y(x)、Cb(x)、Cr(x)のようにxの関数として表す。白画像W、入力画像I、差分画像Sの各々の画像に限定した画素値、各チャネル値の表示についても同様である。
そこで、上式(2)において差分画像Sの各画素の画素値SPを成分表示で表すと、次式(3)が得られる。
SP=(SY、SCb、SCr)=(WY−IY、WCb−ICb、WCr−ICr) …(3)
具体例を示すと、各色チャネルのチャネル値が8ビットの256階調で表されるとし、輝度チャネルのチャネル値Yが[0、255]の範囲の値をとり、青色色差チャネル及び赤色色差チャネルのチャネル値Cb、Crが[−128、127]の範囲の値をとるものとする。
このとき、白画像Wにおける全ての画素の画素値WPは、
WP=(WY、WCb、WCr)=(255、0、0)
となる。
そして、入力画像Iにおける所定の画素xの画素値IPが、例えば、
SP=(SY、SCb、SCr)=(230、110、120)
であるとする。
この場合、差分画像Sにおけるその画素xの画素値SP、即ち、各チャネル値SY、SCb、SCrは、上式(3)により、
SP=(SY、SCb、SCr)=(25、−110、−120)
となる。
次に、ステップS12では、差分画像Sの各画素の差分値SVを算出する。
各画素の差分値SVは、各画素のチャネル値Y、Cb、Crを変数とし、予め決められた実数α、β、γを係数とする関数α・(Ymax−Y)+β・|Cb|+γ・|Cr|により算出される。ただし、本実施の形態ではγ=βとする。また、Ymaxは輝度チャネルの最大値を示し、本実施の形態では255を示す。
また、差分画像Sにおける各画素のチャネル値Y、Cb、Crは上記のようにSY、SCb、SCrで表すことから、差分値SVは、次式(4)により算出される。
SV=α・(Ymax−SY)+β・|SCb|+β・|SCr| …(4)
次に、ステップS14では、差分画像Sの各画素の差分値SVに基づいて差分画像Sのヒストグラムを生成する。
差分画像Sのヒストグラムとは、図5(D)のように横軸に差分値SV、縦軸に横軸が示す差分値を有する画素の数を表したグラフを示す。
次に、ステップS16では、差分画像Sのヒストグラムにおいて、差分値SVの小さい方(下位の方)から累積した画素数が差分画像Sにおける全画素数の5%となる境界差分値SVaを検出する。
即ち、ステップS14及びステップS16の処理として、ステップS14のように差分画像Sのヒストグラムを生成することは必ずしも必要なく、差分値SVの小さい画素から順に累積したときの画素の累積数が、全画素数の5パーセントに該当する特定数Kになるときの差分値を境界差分値SVaとして求める。
なお、特定数Kは、必ずしも全画素数の5パーセントとなる数でなくてもよいが、全画素数の1パーセント以上で、かつ、7パーセント以下となる範囲内の数であることが好ましい。
次に、ステップS18では、境界差分値SVaを有する画素の入力画像Iにおける画素値IPの平均値を大気光画素値Aとして算出する。例えば図5(E)のライン30上の画素が境界差分値SVaを有するとした場合、そのライン30上の画素の画素値IPの平均値を算出すると図5(F)の大気光画素値Aが算出される。
ここで、画素値IPの平均値とは、画素値IPにおける各成分(各色チャネルのチャネル値)を平均したものを意味する。
即ち、境界差分値SVaを有する画素をx1〜xm(mは正の整数)とし、入力画像Iにおけるそれらの画素x1〜xmの画素値IP(x1)〜IP(xm)を各色チャネルのチャネル値で成分表示すると、(IY(x1)、ICb(x1)、ICr(x1))〜(IY(xm)、ICb(xm)、ICr(xm))であるとする。
一方、大気光画素値Aを各色チャネルのチャネル値で成分表示したとき(AY、ACb、ACr)であるとする。
このとき、大気光画素値Aの各色チャネルのチャネル値AY、ACb、ACrは、画素値IP(x1)〜IP(xm)の各色チャネルのチャネル値IY(x1)〜IY(xm)、ICb(x1)〜ICb(xm)、ICr(x1)〜ICr(xm)の各々の平均値であり、次式(5)〜(7)により算出される。
以上のようにして、図1の大気光画素値算出手段14は、大気光画素値Aを入力画像Iに基づいて算出する。
ダークチャネル値算出工程S3においてダークチャネル値算出手段16は、ダークチャネル値算出処理として、入力画像取込手段12により取り込まれた入力画像Iと大気光画素値算出手段14により算出された大気光画素値Aとに基づいて、入力画像Iの各画素に対するヘイズの影響度を推定した値となるダークチャネル値Dを画素ごとに算出する。
ここで、ダークチャネル値Dは、例えばヘイズの影響度が大きいほど大きい値を示し、上式(1)における直接光の透過率tの値に予め対応付けられた値を示す。即ち、画素xにかかわらず、ダークチャネル値Dと透過率tとは一定の関係により予め対応付けられている。
従って、入力画像Iと大気光画素値Aとに基づいて各画素のダークチャネル値Dを求めることで、後述のように各画素xの透過率tをt(x)として算出することができる。
なお、本実施の形態のダークチャネル値Dの算出処理においては、画像を表現する色空間として主にRGB色空間を用いるものとし、赤色成分(Rチャネル)、緑色成分(Gチャネル)、及び青色成分(Bチャネル)からなる3つの色チャネルのチャネル値により画素値を表すことを想定している。
ただし、RGB色空間以外のYCbCr色空間やHSV色空間などの任意の形態(方式)の色空間を用いることが可能であり、任意の形態の色空間における各色チャネルを特定する文字又は値を具体値として持つ変数をcで表し、入力画像Iの画素xの画素値I(x)や大気光画素値Aにおける色チャネルcのチャネル値をIc(x)、Acと表す。
例えば、RGB色空間において、Rチャネルをr、Gチャネルをg、Bチャネルをbで表すと、変数cは、[r、g、b]を具体値として持つ。
ここで、ヘイズのない画像、特に屋外の画像の多くは、局所領域内の少なくとも1つの画素において、各色チャネルのいずれかのチャネル値が極めて小さいことから、ヘイズを含む画像において各局所領域の各画素の各色チャネルのチャネル値のうちの最小値は各局所領域におけるヘイズの影響度の大きさを示すと推定される。
そこで、ダークチャネル値算出手段16は、入力画像Iにおける各画素を順に着目画素として着目画素のダークチャネル値Dを算出し、入力画像Iの全ての画素のダークチャネル値Dを算出する。
そして、着目画素のダークチャネル値Dの算出において、着目画素とした画素xを含む局所領域Ω(x)内の全ての画素yの全ての色チャネルについて、チャネル値Ic(y)を大気光画素値Aにおける同一チャネルのチャネル値Acにより除して得られる値のうちの最小値を算出する。その最小値を画素xのダークチャネル値Dとする。
即ち、画素xのダークチャネル値DをD(x)とするとD(x)は次式(8)により算出される。
なお、局所領域Ω(x)は、例えば、画素xを中心として周囲を囲む合計9個の画素を含む領域であり、ヘイズの影響度が略均一と想定される大きさの領域であることが望ましい。
また、全ての画素のダークチャネル値D(x)を求めるのではなく、複数画素からなる領域ごとに共通の値となる1つのダークチャネル値Dを算出してもよい。
補正処理工程の一部である透過率算出工程S4において補正処理手段18は、透過率算出処理として、ダークチャネル値算出手段16により算出された入力画像Iの各画素のダークチャネル値D(x)に基づいて上式(1)における直接光の透過率t(x)を求める。
上述のように画素xにかかわらずダークチャネル値Dと透過率tとは一定の関係により予め対応付けられている。
図6は、第1の実施の形態におけるダークチャネル値Dと透過率tとの対応関係を示した図である。
同図において、最大値Dmaxは、入力画像Iにおける全ての画素のダークチャネル値D(x)のうちの最大値を示し、ダークチャネル値Dは、0以上で、かつ、Dmax以下の範囲の値を示す。
ヘイズよりも高輝度の被写体が存在する場合には、ダークチャネル値Dが1を超える場合が生じる。このとき、最大値Dmaxも1より大きい値となる。
一方、透過率tは0以上で、かつ、1以下の範囲の値を示す。
そして、ダークチャネル値Dが0以上で、1以下の範囲(0から1までの範囲)の値に対しては、ダークチャネル値Dと透過率tとが次式(9)の関係、即ち、図6の直線L1の関係を有するものとして次式(9)により透過率tが求められる。
t=1−D …(9)
ここで、1を境界値としてダークチャネル値Dが0からその境界値1までの範囲の値となる画素については、ダークチャネル値Dが大きい程、即ち、ダークチャネル値Dが0から境界値1に近づく程、ヘイズの影響度が大きいと推定されるため、上式(9)のようにダークチャネル値Dに対して透過率tが1から0まで単調減少する一次関数により対応付けられている。
これに対して、ダークチャネル値Dが1より大きい範囲(1から最大値Dmaxまでの範囲)の値に対しては、ダークチャネル値Dと透過率tとが次式(10)の関係、即ち、直線L2の関係を有するものとして次式(10)により透過率tが求められる。
t=(D−1)/(Dmax−1) …(10)
ここで、ダークチャネル値Dが境界値1を超える範囲の値となる画素については、ダークチャネル値Dはヘイズの影響度よりも高輝度の被写体の影響度が大きいと推定されるため、上式(10)のようにダークチャネル値Dに対して透過率tが単調増加する値として対応付けられている。
補正処理手段18は、このようなダークチャネル値Dと透過率tとの一定の対応関係により、入力画像Iの各画素のダークチャネル値D(x)に基づいて各画素における直接光の透過率t(x)を求める。
そして、補正処理工程の一部である補正画像生成工程(ヘイズ除去工程)S5において補正処理手段18は、各画素における透過率t(x)と大気光画素値Aとに基づいてヘイズを除去した元画像Jを補正画像として生成する。
即ち、上式(1)から、元画像Jの画素xにおける画素値J(x)は次式(11)により表される。
J(x)={I(x)−A・(1−t(x))}/t(x)
=A+(I(x)−A)/t(x) …(11)
この式(11)において、画素xにおける入力画像Iの画素値I(x)と、大気光画素値Aとを右辺に代入することで、元画像Jにおける画素xの画素値J(x)を求めることができる。そして、元画像Jにおける全ての画素の画素値J(x)を求めることで元画像Jを補正画像として生成することができる。
補正処理手段18は、このようにして生成した補正画像を画像処理装置10から出力する。
なお、上式(11)により得られる補正画像は、上述のように算出した大気光画素値Aや透過率t(x)が必ずしも正確な値ではないことから、必ずしも元画像Jと完全に一致しない。
また、入力画像Iからヘイズを完全に除去するのではなく、ヘイズの影響を残して遠近感を強調するような補正処理等を行うようにしてもよい。例えば、ダークチャネル値Dに対して対応付ける透過率tの値範囲を0から1までの値範囲のうちの一部としてもよく、S(0<S<1)から1までの値範囲等としてもよい。
したがって、補正画像は入力画像Iに対してヘイズの影響を軽減したものであればよい。
以上の画像処理装置10の効果について説明すると、図7において、同図(A)は入力画像Iの例であり、ヘイズにより全体が白んでいる。
これに対して、同図(B)は従来の補正処理によりヘイズを除去した補正画像を示し、同図(C)は本実施の形態の画像処理装置10によりヘイズを除去した補正画像を示す。
同図(B)の補正画像と同図(C)の補正画像を比較すると、両者とも同図(A)の入力画像Iから全体的にヘイズが除去され、白みが除去されている。
一方、同図(A)の拡大表示された領域40には、高輝度の空と透過率の低い木の葉の画像が含まれている。
その領域40内の画像に着目すると、従来の補正処理では、領域40内の画素はダークチャネル値Dが1を超え、ヘイズの影響度が大きいと推定される。そして、透過率tが極めて小さいものとして、即ち、元画像Jの影響度が極めて小さいものとして認識される。
その結果、領域40内の画素値の増加方向への補正量が極めて大きくなる。即ち、画素値の補正量の大きさを示す指標として、例えば、補正画像となる元画像Jの画素値J(x)と入力画像Iの画素値I(x)の差分値Δdを上式(11)により求めると、Δd=(I(x)−A)(1−t(x))/t(x)となる。この差分値Δdから分かるように透過率tが極めて小さいときは、差分値Δdが極めて大きく補正量が極めて大きくなる。
これによって、領域40内の画素値が飽和し、同図(B)の領域40内の画像のようにディテールが消失したものとなる。
これに対して、本実施の形態の画像処理装置10では、ダークチャネル値Dが1を超えた場合であっても、図6の直線L2のように必ずしも透過率tが極めて小さいものとして認識されないようにしている。そのため、領域40内の画素値の補正量の増大が抑止される。
これによって、領域40内の画素値が飽和が抑止され、同図(C)の領域40内の画像のようにディテールが消失せずに残るものとなる。
次に、ダークチャネル値Dと透過率tとの対応関係が異なる画像処理装置10の他の実施の形態について説明する。
図8は、第2の実施の形態におけるダークチャネル値Dと透過率tとの対応関係を示した図である。
補正処理手段18は、透過率算出処理において、図6の代わりに図8の関係を用いることができる。
同図に示すようにダークチャネル値Dが0以上で、1以下の範囲の値に対しては、次式(12)の関係、即ち、図8の曲線L3の関係により透過率tが求められる。
t=1−Dr1 …(12)
ただし、r1は1未満の値とする。
これに対して、ダークチャネル値Dが1より大きい範囲の値に対しては、次式(13)の関係、即ち、図8の曲線L4により透過率tが求められる。
t={(D−1)/(Dmax−1)}r2 …(13)
ただし、r2は1より大きい値とする。
ここで、上式(12)、(13)において、r1は1未満の値、r2は1より大きい値とすることが望ましいが、r1は1以上の値としてもよく、また、r2は1以下の値としてもよい。
また、上式(12)、(13)は一例であって、上式(12)に代わる関数として、ダークチャネル値Dの増加に対して透過率tが単調減少する関数であればよく、上式(13)に代わる関数として、ダークチャネル値Dの増加に対して透過率tが単調増加する関数であればよい。更に、上式(12)、(13)に代わる関数としては上に凸の関数、即ち、透過率tのダークチャネル値Dについての二階微分が負となる関数であることが望ましい。
更に、ダークチャネル値Dと透過率tとの対応付けは、関数によるものではなく、ルークアップテーブルのように具体値同士の対応付けであってもよい。
図9は、第3の実施の形態におけるダークチャネル値Dと透過率tとの対応関係を示した図である。
ここで、本実施の形態におけるダークチャネル値Dは、上記第1及び第2の実施の形態とは相違しており、本来の意味でのダークチャネル値には該当しないが、本実施の形態ではダークチャネル値という。
本実施の形態におけるダークチャネル値算出手段16は、ダークチャネル値算出処理として、画素xのダークチャネル値D(x)を次式(14)を用いて画素ごとに算出する。
上式(14)は、画像を表現する色空間としてYCbCr色空間を用いる場合に特化したものであり、Ar、Acb、及びAcrは、大気光画素値Aにおける輝度チャネル、青色色差チャネル、及び赤色色差チャネルのチャネル値を示し、Iy(y)、Icb(y)、及びIcr(y)は、入力画像Iのy画素における輝度チャネル、青色色差チャネル、及び赤色色差チャネルのチャネル値を示す。α、βは係数であり、εは0による除算を防止するための定数である。
即ち、着目画素とした画素xを含む局所領域Ω(x)内の全ての画素yについて、輝度チャネルのチャネル値Iy(y)と輝度チャネルのチャネル値の最大値255との差分値、青色色差チャネルのチャネル値Icb(y)の絶対値、及び赤色色差チャネルのチャネル値Icr(y)の絶対値の各々に予め決められた係数を乗じて加算した値を、大気光画素値Aにおける輝度チャネルのチャネル値Ayと輝度チャネルのチャネル値の最大値255との差分値、青色色差チャネルのチャネル値Acbの絶対値、及び赤色色差チャネルのチャネル値Acrの絶対値の各々に予め決められた係数を乗じて加算した値により除して得られる値を算出し、そのうちの最大値を画素xのダークチャネル値Dとする。
また、上式(14)は、入力画像Iにおける白っぽい被写体ほどヘイズの影響度が大きいと仮定し、着目画素とした画素xを含む局所領域Ω(x)内の画素のうち右辺の括弧内の値が最も大きくなる最大値をダークチャネル値D(x)とするものである。
補正処理手段18は、透過率算出処理において、図6と同様の図9の関係を用いる。
同図に示すようにダークチャネル値Dが0以上で、1未満の範囲の値に対しては、上式(9)と同様に次式(15)の関係、即ち、図9の曲線L5により透過率tが求められる。
t=1−D …(15)
ただし、本実施の形態のダークチャネル値Dにおいては、ダークチャネル値が境界値1より小さい範囲の値となる画素については、ダークチャネル値Dはヘイズの影響度よりも高輝度の被写体の影響度が大きいと推定される。そのため、上式(15)のようにダークチャネル値Dに対して透過率tが単調減少する値として対応付けられている。
これに対して、ダークチャネル値Dが1以上の範囲の値に対しては、ダークチャネル値Dと透過率tとが上式(10)と同様に次式(16)の関係、即ち、図9の直線L6の関係を有するものとして次式(16)により透過率tが求められる。
t=(D−1)/(Dmax−1) …(16)
ここで、Dmaxは、入力画像Iにおける全ての画素のダークチャネル値D(x)のうちの最大値を示す。
また、本実施の形態のダークチャネル値Dにおいては、1を境界値としてダークチャネル値Dが境界値1から最大値Dmaxまでの範囲の値となる画素については、ダークチャネル値Dが大きい程、ヘイズの影響度が小さいと推定されるため、即ち、ダークチャネル値DがDmaxから境界値1に近づく程、ヘイズの影響度が大きいと推定されるため、上式(16)のようにダークチャネル値Dに対して透過率tが単調増加する値として対応付けられている。
図10は、第4の実施の形態におけるダークチャネル値Dと透過率tとの対応関係を示した図である。
なお、ダークチャネル値Dは、上記第3の実施の形態と同一のダークチャネル算出処理により算出され、上式(14)が用いられる。
補正処理手段18は、透過率算出処理において、図8と同様の図10の関係を用いる。
同図に示すようにダークチャネル値Dが0以上で、1未満の範囲の値に対しては、上式(12)と同様に次式(17)の関係、即ち、図10の曲線L7の関係により透過率tが求められる。
t=1−Dr1 …(17)
ただし、r1は1未満の値とする。
これに対して、ダークチャネル値Dが1以上の範囲の値に対しては、上式(13)と同様に次式(18)の関係、即ち、図10の曲線L8の関係により透過率tが求められる。
t={(D−1)/(Dmax−1)}r2 …(18)
ただし、r2は1より大きい値とする。
なお、上式(12)、(13)と同様に、上式(17)、(18)において、r1は1未満の値、r2は1より大きい値とすることが望ましいが、r1は1以上の値としてもよく、また、r2は1以下の値としてもよい。
また、上式(17)、(18)は一例であって、上式(17)に代わる関数として、ダークチャネル値Dの増加に対して透過率tが単調減少する関数であればよく、上式(18)に代わる関数として、ダークチャネル値Dの増加に対して透過率tが単調増加する関数であればよい。更に、上式(17)、(18)に代わる関数としては上に凸の関数、即ち、透過率tのダークチャネル値Dについての二階微分が負となる関数であることが望ましい。
更に、ダークチャネル値Dと透過率tとの対応付けは、関数によるものではなく、ルークアップテーブルのように具体値同士の対応付けであってもよい。
以上の第1〜第4の実施の形態として図6、図8、図9、及び図10に示したダークチャネル値Dと透過率tとの関係において、ヘイズの影響度よりも高輝度の被写体の影響度が大きいと推定されるダークチャネル値Dの特定範囲、即ち、図6及び図8では、1を超える範囲、図9及び図10では、1未満の範囲については、少なくも透過率tが0のときよりも画素値の補正量よりも小さい補正量となる関係であればよい。
例えば、図6の一部に修正を加えた図11のようにダークチャネル値Dが1より大きい範囲(1から最大値Dmaxまでの範囲)の値に対しては、同図の直線L9のように透過率tが0より大きく、1以下の一定値aとして対応付けるようにしてもよい。
また、透過率tを一定値aとするのではなく、ダークチャネル値Dの上記特定範囲の画素に対して補正の効果を弱めるものであればどのような方法でも良く、補正処理を全く施さないという方法も採用可能である。
以上、上記実施の形態における大気光画素値算出手段14は、大気光画素値算出処理として任意の方法を採用することができる。例えば、次のような方法で大気光画素値Aを算出してもよい。入力画像Iの各画素を順に着目画素として、入力画像Iにおける着目画素を含む局所領域内の全ての画素の全ての色チャネルのチャネル値のうちの最小値を着目画素とした画素の評価値として求める。続いて、評価値の大きい画素から順に累積したときの画素の累積数が予め決められた特定数になるときの評価値を境界評価値として求める。そして、境界評価値を有する画素の入力画像Iにおける画素値の平均値を大気光画素値Aとして算出する。
また、上記実施の形態において、ダークチャネル値算出手段16により算出されるダークチャネル値Dは、特定の方法で算出されるものに限定されない。
即ち、ダークチャネル値算出手段16は、上記実施の形態のダークチャネル値Dに限らず、影響推定値算出手段として、入力画像Iと大気光画素値Aとに基づいて、入力画像Iの各画素に対するヘイズの影響度を推定した値であり、かつ、最小値と最大値のうちの一方の限界値である第1限界値から、最小値と最大値との間の予め決められた境界値に値が近づくほど影響度が大きいことを示す影響推定値であって、透過率tの値に予め対応付けられた影響推定値を算出するものであればよく、その影響推定値を上記実施の形態のダークチャネル値Dとして適用することができる。なお、境界値は影響度が最大になると推定される値を示す。
ここで、第1及び第2の実施の形態において用いられ、図6及び図8に示されたダークチャネル値Dにおいて、0、Dmax、及び1が影響推定値における最小値、最大値、及び境界値に相当し、ダークチャネル値Dの限界値である0とDmaxのうちの0が影響推定値の第1限界値に相当し、Dmaxが他方の限界値(第2限界値)に相当する。
また、第3及び第4の実施の形態において用いられ、図9及び図10に示されたダークチャネル値Dにおいて、0、Dmax、及び1が影響推定値における最小値、最大値、及び境界値に相当し、ダークチャネル値Dの限界値である0とDmaxのうちのDmaxが影響推定値の第1限界値に相当し、0が他方の限界値(第2限界値)に相当する。
そして、第1から第4の実施の形態のいずれの補正処理手段18においても、影響推定値が第1限界値から境界値までの範囲の画素に対しては、1から0に向けて減少する値として対応付けられた透過率tに基づいて補正を実施し、影響推定値が境界値から第2限界値までの範囲の画素に対しては、少なくとも透過率tを0としたときの画素値の補正量よりも小さい補正量となる補正を実施するものを例示している。
なお、第1から第4の実施の形態のいずれの補正処理手段18においても、境界値から第2限界値までの範囲の影響推定値に対しては、透過率tが0から1に向けて増加する値として対応付けられた形態が示されており、図11には、境界値から第2限界値までの範囲の影響推定値に対して、透過率tが0より大きく、1以下の一定値として対応付けられた形態が示されている。
また、上記実施の形態では、補正対象とする入力画像Iは、被写体からの直接光により形成される元画像に靄などのヘイズが重畳している画像としたが、これに限らない。例えば、大気障害に起因する画像や、レンズフレアなどの元画像にない任意の画像が元画像に重畳している場合に、そのような画像を入力画像Iとし、元画像にない画像を除去すべき除去画像として、上記実施の形態におけるヘイズの除去と同様にして入力画像Iから除去画像を除去(除去画像の影響を軽減)することができる。
このとき、入力画像Iは、大気光画素値Aを重畳画素値Aと称するものとして、上式(1)により表され、大気光画素値算出手段14は重畳画素値算出手段として大気光画素値Aと同様に重畳画素値Aを算出することができる。
10…画像処理装置、12…入力画像取込手段、14…大気光画素値算出手段、16…ダークチャネル値算出手段、18…補正処理手段、I…入力画像、x…画素、J…元画像、t…透過率、A…大気光画素値

Claims (15)

  1. 元画像と、前記元画像に重畳された除去すべき除去画像とからなる入力画像であって、各画素に応じた1から0の範囲の透過率をtとした場合に前記元画像の各画素の画素値にtを乗じて得られる値と、前記除去画像の各画素の画素値であって、1からtを減算した値を重畳画素値に乗じて得られる値との加算値を各画素の画素値とする入力画像を取り込む入力画像取込手段と、
    前記入力画像に基づいて前記重畳画素値を算出する重畳画素値算出手段と、
    前記入力画像と前記重畳画素値とに基づいて、前記入力画像の各画素に対する前記除去画像の影響度を推定した値であり、かつ、最小値と最大値のうちの一方の限界値である第1限界値から、前記最小値と前記最大値との間の予め決められた境界値に値が近づくほど前記影響度が大きいことを示す影響推定値であって、前記透過率tの値に予め対応付けられた影響推定値を算出する影響推定値算出手段と、
    前記入力画像、前記影響推定値、及び前記重畳画素値に基づいて、前記入力画像の各画素の画素値に対する補正を実施することにより、前記入力画像から前記除去画像の影響を低減した補正画像を生成する補正処理手段と、
    を備え、
    前記補正処理手段は、
    前記影響推定値が前記第1限界値から前記境界値までの範囲の画素に対しては、1から0に向けて減少する値として対応付けられた透過率tに基づいた補正量で前記補正を実施し、
    前記影響推定値が前記境界値から前記最小値と最大値のうちの前記第1限界値と異なる他方の第2限界値までの範囲の画素に対しては、少なくとも透過率tを0としたときの画素値の補正量よりも小さい補正量となる補正を実施する手段である、
    画像処理装置。
  2. 前記第1限界値から前記境界値までの範囲の前記影響推定値に対して、前記透過率tは1から0まで単調減少する一次関数により対応付けられた請求項1に記載の画像処理装置。
  3. 前記第1限界値から前記境界値までの範囲の前記影響推定値に対して、前記透過率tは上に凸で単調減少する値として対応付けられた請求項1に記載の画像処理装置。
  4. 前記補正処理手段は、前記影響推定値が前記境界値から前記第2限界値までの範囲の画素に対して、前記影響推定値に予め対応付けられた透過率tに基づいて前記補正を実施する請求項1、2、又は3に記載の画像処理装置。
  5. 前記境界値から前記第2限界値までの範囲の前記影響推定値に対して、前記透過率tは0から1に向けて増加する値として対応付けられた請求項4の画像処理装置。
  6. 前記境界値から前記第2限界値までの範囲の前記影響推定値に対して、前記透過率tは0より大きく、1以下の一定値として対応付けられた請求項4の画像処理装置。
  7. 前記重畳画素値算出手段は、
    白画像と前記入力画像との差分を示す差分画像における各画素の画素値を変数として予め決められた関数により導かれる差分値を各画素ごとに算出し、
    前記差分値の小さい画素から順に累積したときの画素の累積数が予め決められた特定数になるときの差分値を境界差分値として求め、
    前記境界差分値を有する画素の前記入力画像における画素値の平均値を前記重畳画素値として算出する手段である請求項1から6のいずれか1項に記載の画像処理装置。
  8. 前記入力画像の各画素の画素値、及び、前記重畳画素値は、色空間における複数チャネルのチャネル値からなり、
    前記重畳画素値算出手段は、
    前記入力画像の各画素を順に着目画素として、前記入力画像における前記着目画素を含む局所領域内の全ての画素の全てのチャネルのチャネル値のうちの最小値を着目画素とした画素の評価値として求め、
    前記評価値の大きい画素から順に累積したときの画素の累積数が予め決められた特定数になるときの評価値を境界評価値として求め、
    前記境界評価値を有する画素の前記入力画像における画素値の平均値を前記重畳画素値として算出する手段である請求項1から6のいずれか1項に記載の画像処理装置。
  9. 前記差分画像の各画素の画素値は色空間における複数チャネルのチャネル値からなり、
    前記重畳画素値算出手段は、前記複数チャネルのチャネル値の各々に予め決められた係数を乗じて加算した値を前記差分値として算出する請求項7に記載の画像処理装置。
  10. 前記差分画像の前記複数チャネルのチャネル値として、輝度成分のチャネル値をY、輝度成分のチャネル値の最大値をYmax、青色色差成分のチャネル値をCb、赤色色差成分のチャネル値をCrとし、係数をα、βとすると、前記重畳画素値算出手段は、前記差分値を、α(Ymax−Y)+β|Cb|+β|Cr|により算出する請求項9に記載の画像処理装置。
  11. 前記入力画像の各画素の画素値、及び、前記重畳画素値は、色空間における複数チャネルのチャネル値からなり、
    前記影響推定値算出手段は、
    前記入力画像の各画素を順に着目画素として、着目画素の前記影響推定値を算出し、
    前記着目画素の影響推定値の算出は、前記入力画像における前記着目画素を含む局所領域内の全ての画素の全てのチャネルについて、チャネル値を前記重畳画素値における同一チャネルのチャネル値により除して得られる値のうちの最小値であるダークチャネル値を算出する請求項1から10のいずれか1項に記載の画像処理装置。
  12. 前記入力画像の各画素の画素値、及び、前記重畳画素値は、色空間における輝度成分、青色色差成分、及び赤色色差成分のチャネル値からなり、
    前記影響推定値算出手段は、前記入力画像の各画素を順に着目画素として、着目画素の前記影響推定値を算出し、
    前記着目画素の影響推定値の算出は、前記入力画像における前記着目画素を含む局所領域内の全ての画素について、輝度成分のチャネル値と輝度成分のチャネル値の最大値との差分値、青色色差成分のチャネル値の絶対値、及び赤色成分のチャネル値の絶対値の各々に予め決められた係数を乗じて加算した値を、前記重畳画素値における輝度成分のチャネル値と輝度成分のチャネル値の最大値との差分値、青色色差成分のチャネル値の絶対値、及び赤色成分のチャネル値の絶対値の各々に予め決められた係数を乗じて加算した値により除して得られる値のうちの最大値を算出する請求項1から10のいずれか1項に記載の画像処理装置。
  13. 前記影響推定値の前記境界値は1である請求項11又は12に記載の画像処理装置。
  14. 前記入力画像は、前記元画像に対して大気障害に起因する除去画像が重畳された画像である請求項1から13のいずれか1項に記載の画像処理装置。
  15. 元画像と、前記元画像に重畳された除去すべき除去画像とからなる入力画像であって、
    各画素に応じた1から0の範囲の透過率をtとした場合に前記元画像の各画素の画素値にtを乗じて得られる値と、前記除去画像の各画素の画素値であって、1からtを減算した値を重畳画素値に乗じて得られる値との加算値を各画素の画素値とする入力画像を取り込む入力画像取込工程と、
    前記入力画像に基づいて前記重畳画素値を算出する重畳画素値算出工程と、
    前記入力画像と前記重畳画素値とに基づいて、前記入力画像の各画素に対する前記除去画像の影響度を推定した値であり、かつ、最小値と最大値のうちの一方の限界値である第1限界値から、前記最小値と前記最大値との間の予め決められた境界値に値が近づくほど前記影響度が大きいことを示す影響推定値であって、前記透過率tの値に予め対応付けられた影響推定値を算出する影響推定値算出工程と、
    前記入力画像、前記影響推定値、及び前記重畳画素値に基づいて、前記入力画像の各画素の画素値に対する補正を実施することにより、前記入力画像から前記除去画像の影響を低減した補正画像を生成する補正処理工程と、
    を備え、
    前記補正処理工程は、
    前記影響推定値が前記第1限界値から前記境界値までの範囲の画素に対しては、1から0に向けて減少する値として対応付けられた透過率tに基づいた補正量で前記補正を実施し、
    前記影響推定値が前記境界値から前記最小値と最大値のうちの前記第1限界値と異なる他方の第2限界値までの範囲の画素に対しては、少なくとも透過率tを0としたときの画素値の補正量よりも小さい補正量となる補正を実施する工程である、
    画像処理方法。
JP2017543043A 2015-09-29 2016-08-31 画像処理装置及び画像処理方法 Active JP6352547B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015191762 2015-09-29
JP2015191762 2015-09-29
PCT/JP2016/075456 WO2017056834A1 (ja) 2015-09-29 2016-08-31 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP6352547B2 JP6352547B2 (ja) 2018-07-04
JPWO2017056834A1 true JPWO2017056834A1 (ja) 2018-08-02

Family

ID=58423269

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017543043A Active JP6352547B2 (ja) 2015-09-29 2016-08-31 画像処理装置及び画像処理方法

Country Status (4)

Country Link
US (1) US10521887B2 (ja)
JP (1) JP6352547B2 (ja)
CN (1) CN108140237B (ja)
WO (1) WO2017056834A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI674804B (zh) * 2018-03-15 2019-10-11 國立交通大學 視訊除霧處理裝置及方法
CN109522941B (zh) * 2018-10-28 2022-11-29 北京工业大学 一种基于图像的大气光强估计方法
CN110232666B (zh) * 2019-06-17 2020-04-28 中国矿业大学(北京) 基于暗原色先验的地下管道图像快速去雾方法
CN111489308B (zh) * 2020-04-03 2022-09-06 南京理工大学 一种实时长波红外透雾性能增强算法
US20220051050A1 (en) * 2020-08-12 2022-02-17 Micron Technology, Inc. Presentation of digitized images from user drawings
CN112767278B (zh) * 2021-01-28 2024-05-14 湖南大学 基于非均匀大气光先验的图像去雾方法及相关设备
CN115063404B (zh) * 2022-07-27 2022-11-08 建首(山东)钢材加工有限公司 基于x射线探伤的耐候钢焊缝质量检测方法
CN117808712B (zh) * 2024-02-28 2024-05-07 山东科技大学 一种基于水下相机的图像校正方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110188775A1 (en) * 2010-02-01 2011-08-04 Microsoft Corporation Single Image Haze Removal Using Dark Channel Priors
JP2012221237A (ja) * 2011-04-08 2012-11-12 Olympus Corp 霞除去画像処理装置、霞除去画像処理方法及び霞除去画像処理プログラム
WO2014077126A1 (ja) * 2012-11-13 2014-05-22 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8620843B2 (en) 2010-01-29 2013-12-31 Hewlett-Packard Development Company, L.P. Pattern recognition using active media
JP5573451B2 (ja) * 2010-07-21 2014-08-20 コニカミノルタ株式会社 画像処理装置及び画像処理方法
JP6182056B2 (ja) * 2013-11-25 2017-08-16 日本システムウエア株式会社 画像処理装置
JP6320115B2 (ja) * 2014-03-28 2018-05-09 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US9177363B1 (en) * 2014-09-02 2015-11-03 National Taipei University Of Technology Method and image processing apparatus for image visibility restoration
US9361670B2 (en) * 2014-09-04 2016-06-07 National Taipei University Of Technology Method and system for image haze removal based on hybrid dark channel prior
US9478016B2 (en) * 2014-09-16 2016-10-25 National Taipei University Of Technology Image restoration method and image processing apparatus using the same
US9508126B2 (en) * 2015-02-17 2016-11-29 Adobe Systems Incorporated Image haze removal using fast constrained transmission estimation

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110188775A1 (en) * 2010-02-01 2011-08-04 Microsoft Corporation Single Image Haze Removal Using Dark Channel Priors
JP2012221237A (ja) * 2011-04-08 2012-11-12 Olympus Corp 霞除去画像処理装置、霞除去画像処理方法及び霞除去画像処理プログラム
WO2014077126A1 (ja) * 2012-11-13 2014-05-22 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
CN108140237B (zh) 2021-11-19
US10521887B2 (en) 2019-12-31
WO2017056834A1 (ja) 2017-04-06
US20180232862A1 (en) 2018-08-16
JP6352547B2 (ja) 2018-07-04
CN108140237A (zh) 2018-06-08

Similar Documents

Publication Publication Date Title
JP6352547B2 (ja) 画像処理装置及び画像処理方法
JP6351903B1 (ja) 画像処理装置、画像処理方法、及び撮影装置
CN108668093B (zh) Hdr图像的生成方法及装置
US20160307324A1 (en) Image processing apparatus, image processing method, and storage medium for lighting processing on image using model data
JP2008205737A (ja) 撮像システム、画像処理プログラム、画像処理方法
JP2017138647A (ja) 画像処理装置、画像処理方法、映像撮影装置、映像記録再生装置、プログラム及び記録媒体
JP6559229B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体
JP5901667B2 (ja) 画像処理装置及び方法、画像処理プログラム、撮像装置
CN108364275B (zh) 一种图像融合方法、装置、电子设备及介质
JP2022036179A (ja) 画像処理装置およびその制御方法及びプログラム
CN102339461A (zh) 图像增强方法和设备
JP2005309560A (ja) 画像処理方法および装置並びにプログラム
CN110175967B (zh) 图像去雾处理方法、系统、计算机设备和存储介质
CN112001853A (zh) 图像处理设备、图像处理方法、摄像设备和存储介质
CN111654686B (zh) 去除图像彩噪的方法、去除视频彩噪的方法及相关装置
JP5365881B2 (ja) 画像処理装置、画像処理方法
JP6331339B2 (ja) 撮像装置及びこの撮像装置を備えた撮像システム及び偽色除去方法
JP5486963B2 (ja) 画像処理装置および画像処理プログラム
CN107734246B (zh) 一种图像处理方法、装置及相关电路
JP6565513B2 (ja) 色補正装置、色補正方法及び色補正用コンピュータプログラム
JP6543786B2 (ja) 画像処理装置および画像処理方法
EP3605450B1 (en) Image processing apparatus, image pickup apparatus, control method of image processing apparatus, and computer-program
KR20100114343A (ko) 촬영 영상의 렌즈 셰이딩 및 채널 차 보정 장치와 방법
KR101004623B1 (ko) 플래쉬 장치를 이용한 영상 품질 개선 장치 및 방법
KR102315200B1 (ko) 자동 화이트 밸런스를 위한 영상 처리 장치 및 그 처리 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180309

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180309

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180525

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180529

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180606

R150 Certificate of patent or registration of utility model

Ref document number: 6352547

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250