JP6749510B2 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP6749510B2
JP6749510B2 JP2019567822A JP2019567822A JP6749510B2 JP 6749510 B2 JP6749510 B2 JP 6749510B2 JP 2019567822 A JP2019567822 A JP 2019567822A JP 2019567822 A JP2019567822 A JP 2019567822A JP 6749510 B2 JP6749510 B2 JP 6749510B2
Authority
JP
Japan
Prior art keywords
image processing
signal strength
reference value
image
peripheral area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019567822A
Other languages
English (en)
Other versions
JPWO2019146122A1 (ja
Inventor
恭平 後藤
恭平 後藤
貴司 中前
貴司 中前
玲央 青木
玲央 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eizo Corp
Original Assignee
Eizo Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Eizo Corp filed Critical Eizo Corp
Application granted granted Critical
Publication of JP6749510B2 publication Critical patent/JP6749510B2/ja
Publication of JPWO2019146122A1 publication Critical patent/JPWO2019146122A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Description

本発明は、画像処理装置、画像処理方法及び画像処理プログラムに関する。
画像のコントラストを補正する手法の1つとしてRetinex理論に基づいたMulti Scale Retinex手法という画像処理方法が提案されており、高い視認性向上効果を実現する手法として知られている。
特表2005−515515号公報
しかし、従来のMulti Scale Retinex手法では画像に対して一様に正規化処理を行うため、画像の局所エリアごとに反射率の振幅が異なっている場合には適切にコントラストを補正することができない、という問題があった(例えば、図10A及び図10B参照)。
本発明は、このような事情を鑑みてなされたものであり、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能な画像処理装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
本発明の一観点によれば、画像処理装置であって、信号強度抽出部と、周辺領域基準値算出部と、強調度合決定部とを備え、当該画像処理装置に入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出部は、前記入力画像の信号強度を抽出し、前記周辺領域基準値算出部は、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、前記強調度合決定部は、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理装置が提供される。
本発明に係る画像処理装置では、信号強度抽出部が、入力画像の信号強度を抽出し、周辺領域基準値算出部が、注目する小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、強調度合決定部が、小領域の信号強度を高めるように、当該信号強度の強調度合を決定する。そして、強調度合は、周辺領域基準値と所定値との差分に対して単調非減少であることを特徴とする。このような構成を有することにより、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正することができる。
以下、本発明の種々の実施形態を例示する。以下に示す実施形態は、互いに組み合わせ可能である。
好ましくは、注目する前記小領域の信号強度をR、前記周辺領域基準値をS、前記所定値をT、出力画像として出力しうる信号強度の上限値及び下限値をそれぞれOL及びULと定義した場合において、
R≧0のとき、S≦T≦OL
R<0のとき、UL≦T≦S
を満たす。
好ましくは、前記信号強度は、当該画像処理装置に入力された入力画像から反射光成分及び照明光成分を分離し且つこれらに基づいて算出される。
また、本発明の別の観点によれば、画像処理方法であって、信号強度抽出ステップと、周辺領域基準値算出ステップと、強調度合決定ステップとを備え、当該方法に際して入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出ステップでは、前記入力画像の信号強度を抽出し、前記周辺領域基準値算出ステップでは、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、前記強調度合決定ステップは、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理方法が提供される。
本発明に係る画像処理方法では、信号強度抽出ステップにおいて、入力画像の信号強度を抽出し、周辺領域基準値算出ステップにおいて、注目する小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、強調度合決定ステップにおいて、小領域の信号強度を高めるように、当該信号強度の強調度合を決定する。そして、強調度合は、周辺領域基準値と所定値との差分に対して単調非減少であることを特徴とする。このような方法により、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正することができる。
また、本発明の別の観点によれば、コンピュータに所定の機能を実行させる画像処理プログラムであって、前記所定の機能は、信号強度抽出機能と、周辺領域基準値算出機能と、強調度合決定機能とを備え、前記コンピュータに入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出機能によって、前記入力画像の信号強度が抽出され、前記周辺領域基準値算出機能によって、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、前記強調度合決定機能によって、前記小領域の信号強度を高めるように当該信号強度の強調度合が決定され、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、画像処理プログラムが提供される。
本発明に係る画像処理プログラムでは、信号強度抽出機能によって、入力画像の信号強度が抽出され、周辺領域基準値算出機能によって、注目する小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、強調度合決定機能によって、小領域の信号強度を高めるように、当該信号強度の強調度合が決定される。そして、強調度合は、周辺領域基準値と所定値との差分に対して単調非減少であることを特徴とする。このような機能をコンピュータに実行させるプログラムにより、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正することができる。
実施形態に係る画像処理装置を用いたシステムの構成概要を示す機能ブロック図。 信号強度抽出部、周辺領域基準値算出部、強調度合決定部、変換出力部による処理フローを表すブロック線図。 周辺領域基準値算出部が周辺領域基準値を決定する態様を示す概念図。 強調度合決定部が強調度合を決定する態様を示す概念図。 第1実施形態に係り、信号強度抽出部の処理フロー(詳細)を表すブロック線図。 第1実施形態に係り、周辺領域基準値算出部及び強調度合決定部の処理フロー(詳細)を表すブロック線図。 変換出力部の処理フロー(詳細)を表すブロック線図。 入力画像の一例。 実施形態に係る画像処理装置によって画像処理を適用した場合の出力画像(実施例)。 従来技術に係る画像処理を適用した場合の出力画像(比較例)。 第1実施形態に係る画像処理装置を用いたシステムでの、フレームメモリの使用を示す概要図。 第2実施形態に係る画像処理装置を用いたシステムでの、フレームメモリの使用を示す概要図。 第2実施形態に係り、信号強度抽出部、周辺領域基準値算出部及び強調度合決定部の処理フロー(詳細)を表すブロック線図。
以下、本発明の実施形態について図面を参照しながら詳細に説明する。特に、本明細書において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものを指しうる。
また、広義の回路とは、回路(circuit)、回路類(circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CLPD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものであることに留意されたい。
また、本明細書では、画像処理装置に入力された入力画像から反射光成分及び照明光成分を分離し且つこれらに基づいて算出される反射率を信号強度(対数値)と定義し、入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義する。更に、画像とは、静止画/動画の何れも含むものとし、動画の場合においては特に指定がない限りそのうちの1フレームを指すものとする。
また、下記に詳述する実施形態においては、様々な情報やこれを包含する概念を取り扱うが、これらは、0又は1で構成される2進数のビット集合体として信号値の高低によって表され、広義の回路上で通信・演算が実行されうるものである。具体的には、「小領域」、「ピクセルデータ」、「信号強度」、「反射率」、「周辺領域基準値」、「強調度合」、「明度」等が、かかる情報/概念に含まれうる。これらについては、再度必要に応じて詳しく説明するものとする。
1.第1実施形態
1.1 システム1(全体構成)
図1は、本発明の第1実施形態に係る画像処理装置3を用いたシステム1の構成概要を示す図である。システム1は、入力画像源2と、画像処理装置3と、表示部4とを備える。
1.1.1 入力画像源2
入力画像源2は、画像処理装置3の画像処理の対象とする入力画像を出力し、画像処理部3における送受信部34(後述)に送信する。例えば、一般的なコンピュータや携帯型端末であってもよいし、リアルタイムに外界の状況を画像化するビジョンセンサ(カメラ、内視鏡システム等)であってもよいし、動画を再生する再生機であってもよい。なお、情報処理という観点において、この入力画像は、2次元の画素の集合体(ピクセルデータ配列)である。なお、図1では入力画像源2が画像処理装置3と別体のように図示されているが、これに限らず入力画像源2が画像処理装置3に含まれるように実施してもよい。
1.1.2 画像処理装置3
画像処理装置3は、入力画像源2より送信された画像データに対して所定の画像処理を実行する装置である。画像処理装置3は、制御部31と、記憶部32と、入力部33と、送受信部34と、信号強度抽出部35と、周辺領域基準値算出部36と、強調度合決定部37と、変換出力部38とを備え、これらが通信バス3Bを介して接続されている。以下、構成要素31〜38をそれぞれ詳述する。
<制御部31>
制御部31は、画像処理装置3に関連する全体動作の処理・制御を行う。制御部31は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部31は、記憶部32に記憶された所定のプログラムを読み出すことによって、画像処理装置3ないしはシステム1に係る種々の機能を実現する。例えば、所定のプログラムを読み出して、入力画像源2の表示画像を含むグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示部4に表示させることが含まれる。
なお、図1においては、単一の制御部31として表記されているが、実際はこれに限るものではなく、機能ごとに複数の制御部31を有するように実施してもよい。またそれらの組合せであってもよい。
<記憶部32>
記憶部32は、上述の通り、制御部31により実現させるための種々のプログラム等を記憶する。これは、例えばハードディスクドライブ(Hard Disk Drive:HDD)又はソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして実施されうる。また記憶部32は、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとしても実施されうる。また、これらの組合せであってもよい。
<入力部33>
入力部33は、例えば、画像処理装置3自体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部33は、タッチパネルとして実施されうる。或いは、スイッチボタン、マウス、キーボード等のユーザインターフェースを採用してもよい。入力部33を介して、操作者の指示(コマンド)を受け付ける。当該指示は、通信バス3Bを介して制御部31に転送され、制御部31が必要に応じて所定の制御や演算を実行しうる。当該指示の一例として、操作者は、入力部33を介して、表示部4に表示されている入力画像源2が出力中の動画を一時停止することができる。
<送受信部34>
送受信部34は、画像処理装置3と、画像処理装置3以外の外部機器との通信のためのユニットである。すなわち、送受信部34を介して、入力画像源2より入力画像となる画像データを受信し、これを画像処理(詳細後述)した後、出力画像として表示部4に送信しうる。なお、送受信部34による通信は、画像データに限るものではない。例えば、有線LANネットワーク通信、Bluetooth通信、無線LANネットワーク通信等を含む複数の通信手段の集合体であって通信対象について適切な通信規格を含むように実施することが好ましい。
<信号強度抽出部35>
図2は、本発明の第1実施形態に係る信号強度抽出部35、周辺領域基準値算出部36、強調度合決定部37、変換出力部38による処理フローを表すブロック線図である。
信号強度抽出部35は、送受信部34を介して入力画像源2から受信した入力画像I(x,y)に対して、Retinex理論に係る演算を実行して信号強度である反射率R(x,y)を算出する。Retinex理論では、入力画像I(x,y)は照明光成分L(x,y)と反射率R(x,y)からなると考える。そして、照明光成分L(x,y)と反射率R(x,y)とは、次のように決定される。
ここで、式中のG_nはn番目のガウシアンフィルタ、W_nはその重み付け係数である。より具体的な処理手順については、第1.2節において再度詳述する。また、入力画像I(x,y)が反射光成分であり、本実施形態では、入力画像として明度V(x,y)を用いた例を説明する。
<周辺領域基準値算出部36>
図3A〜図3Cは、周辺領域基準値算出部36が周辺領域基準値を決定する態様を示す概念図である。図示の通り、周辺領域基準値算出部36は、信号強度抽出部35によって抽出された反射率R(x,y)を用いて基準値S(x,y)を算出する。
入力画像I(x,y)がwidth×height[ピクセル]の画像であるとすると、反射率R(x,y)もwidth×height[ピクセル]のピクセルデータ配列である。そして、反射率R(x,y)に対して、ω×ω[ピクセル]を有するROI(Region of Interest)を設定する。ここで、ROIの中心に位置するピクセルを、対象ピクセルp_[i,j](特許請求の範囲における「注目する小領域」の一例)と呼ぶものとする。図3A〜図3Cでは、対象ピクセルp_[i,j]の一例として、対象ピクセルp_[a,b]、対象ピクセルp_[c,d]、対象ピクセルp_[e,f]が示されている。
周辺領域基準値算出部36は、対象ピクセルp_[i,j]に係る反射率R(i,j)が0以上である場合、これを同ROIの対象ピクセルp_[i,j]以外の複数のピクセル(周辺領域)の反射率R(x,y)のうちの最大値R_Mに置き換えたピクセルデータ配列を生成しようとする(local_max()フィルタ)。一方、対象ピクセルp_[i,j]に係る反射率R(i,j)が負である場合、これを同ROIの対象ピクセルp_[i,j]以外の複数のピクセル(周辺領域)の反射率R(x,y)のうちの最小値R_mに置き換えたピクセルデータ配列を生成しようとする(local_min()フィルタ)。つまり、図3A〜図3Cに示されるように上記の処理を全ピクセルに対して実行することで、各ROIにおける最大値R_M又は最小値R_mをピクセルデータとして有するようなピクセルデータ配列である基準値S(x,y)が算出される。なお、対象ピクセルp_[i,j]が反射率R(x,y)の端部に位置するような場合であっても、その分の周辺領域が狭くなるだけで処理上の問題は生じない。処理手順については、第1.2節において再度詳述する。
なお、ωの値は、例えば、width、height又は両者の平均値に基づいて決定されることが好ましい。例えば、width、height又は両者の平均値をαとすると、0.05≦ω/α≦0.50を満たす。具体的には例えば、ω/α=0.05、0.06、0.07、0.08、0.09、0.10、0.15、0.20、0.25、0.30、0.35、0.40、0.45、0.50であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。ω/αが小さすぎると最終的な出力画像O(x,y)にノイズが目立ち、一方でω/αが大きすぎると、一律に反射率を補正する場合との差異がなくなるため、注意が必要である。
<強調度合決定部37>
図4A及び図4Bは、強調度合決定部37が強調度合g(x,y)を決定する態様を示す概念図である。強調度合決定部37は、周辺領域基準値算出部36で算出された基準値S(x,y)と所定値(通常は、出力画像O(x,y)として出力しうる反射率R(x,y)の上限値OL又は下限値UL)とを比較して、強調度合g(x,y)を決定する。図4Aにおいては、R(x,y)≧0の場合を例として、S(x,y)とOLの差分からg(x、y)を算出する。ここで差分が大きいほどg(x、y)は大きくなる。そして図4Bに示されるように、入力画像I(x,y)の反射率R(x,y)に強調度合g(x,y)を乗算することで、補正された反射率R_c(x,y)が規定される。より具体的な処理手順については、第1.2節において再度詳述する。
なお、反射率R(x,y)を高めるように強調度合g(x,y)が決定され、基準値S(x,y)と上限値OLの差分の大小が、強調度合g(x,y)の大小に依存することに留意されたい。換言すると、強調度合g(x,y)は、基準値S(x,y)と上限値OLの差分に対して単調増加(特許請求の範囲における「単調非減少」の一例)である。
<変換出力部38>
変換出力部38は、信号強度抽出部35にて抽出された反射率R(x,y)と、強調度合決定部37にて決定された強調度合g(x,y)とから、コントラストの補正がなされた出力画像O(x,y)を出力する。つまり、変換出力部38は、前述の補正された反射率R_c(x,y)を用いて、出力画像O(x,y)を出力する。
1.1.3 表示部4
表示部4は、画像処理装置3によって画像処理された画像データが入力されると、各ピクセルデータ(各ピクセルが有する輝度等の情報)に基づいてこれを映像として表示する媒体であり、例えばLCDモニタ、CRTモニタ、有機ELモニタ等であってよい。なお、画像処理装置3が表示部4を含んでもよい。より具体的には、画像処理装置3における変換出力部38から出力された出力画像O(x,y)が通信バス3B及び送受信部34を介して表示部4に送信され、表示部4が当該出力画像を表示する。
1.2 画像処理方法
続いて、第1.1節において説明した画像処理装置3を用いた画像処理方法について説明する。特にここでは、送受信部34より入力された入力画像I(x,y)が、画像処理を経て変換出力部38から出力画像O(x,y)が出力されるまでについて、詳述する。特に以下の処理では、入力画像I(x,y)の所定の対象ピクセルp_[i,j](すなわちピクセルデータI(i,j)を有するもの)について考えるものとする。
1.2.1 反射率R(x,y)の抽出
図5は、信号強度抽出部35の処理フロー(詳細)を表すブロック線図である。以下、図5の各ステップに沿って説明する。
[開始]
(ステップS1−1)
入力画像I(x,y)の注目領域(ここでは入力画像Iの全ピクセル:動画であれば1フレーム分)内における対象ピクセルの明度V(i,j)をそれぞれ抽出し、その対数値log{V(i,j)}を取得する(ステップS1−2a〜cに進む)。
(ステップS1−2a〜c)
続いて、抽出された明度V(i,j)にガウシアンフィルタG_1〜G_3及び重み付け係数W_1〜W_3を乗じる。なお、ガウシアンフィルタG_1〜G_3はカーネルサイズの異なるもので、重み付け係数W_1〜W_3は、式(3)を満たすものである(ステップS1−3に進む)。
W_1+W_2+W_3=1 (3)
(ステップS1−3)
続いて、ステップS1−2a〜cにおいて得られた各値の対数値をとって、その和をとることで
照明光成分L(i,j)を計算する(ステップS1−4に進む)。
(ステップS1−4)
続いて、ステップS1−1において取得された対数値log{V(i,j)}からステップS1−3において算出された照明光成分L(i,j)を減算することで、信号強度である反射率R(i,j)が抽出される。
[終了]
1.2.2 強調度合g(x,y)の決定
図6は、周辺領域基準値算出部36及び強調度合決定部37の処理フロー(詳細)を表すブロック線図である。以下、図6の各ステップに沿って説明する。
[開始]
(ステップS2−1)
周辺領域基準値算出部36は、信号強度抽出部35によって抽出された反射率R(i,j)が0以上か未満かを判別する。R(i,j)≧0であれば、ステップS2−2aに係る処理を実行し、R(i,j)<0であれば、ステップS2−2bを実行する(ステップS2−2a、bに続く)。
(ステップS2−2a)
周辺領域基準値算出部36は、反射率R(i,j)に対応する基準値S(i,j)を決定する。換言すると、対象ピクセルp_[i,j]に対して規定されるROIにおいて、複数のピクセル(対象ピクセルp_[i,j]及びその周辺領域)の反射率R(x,y)のうちの最大値R_Mが、基準値S(i,j)となる(ステップS2−3aに続く)。
(ステップS2−3a)
強調度合決定部37は、ステップS2−2aにて決定された基準値S(i,j)の逆数値である1/S(i,j)を算出する(ステップS2−4aに続く)。
(ステップS2−4a)
強調度合決定部37は、逆数値1/S(i,j)に、log(OL/β)を乗算することによってg(i,j)を算出する。ここでβは予め規定されたオフセット定数である。
(ステップS2−2b)
周辺領域基準値算出部36は、反射率R(i,j)に対応する基準値S(i,j)を決定する。換言すると、対象ピクセルp_[i,j]に対して規定されるROIにおいて、複数のピクセル(対象ピクセルp_[i,j]及びその周辺領域)の反射率R(x,y)のうちの最小値R_mが採用される。
(ステップS2−3b)
強調度合決定部37は、ステップS2−2bにて決定された基準値S(i,j)の逆数値である1/S(i,j)を算出する(ステップS2−4bに続く)。
(ステップS2−4b)
強調度合決定部37は、逆数値1/S(i,j)に、log(UL/β)を乗算することによってg(i,j)を算出する。ここでβは予め規定されたオフセット定数である。
[終了]
1.2.3 出力画像O(x,y)の生成
図7は、変換出力部38の処理フロー(詳細)を表すブロック線図である。以下、図7の各ステップに沿って説明する。
[開始]
(ステップS3−1)
変換出力部38は、強調度合決定部37によって決定された強調度合g(i,j)に反射率R(i,j)を乗算することによって、補正された反射率R_c(i,j)を導出する(ステップS3−2に続く)。
(ステップS3−2)
ステップS3−1にて導出された、補正された反射率R_c(i,j)にlogβを加算する。(ステップS3−3に続く)。
(ステップS3−3)
ステップS3−2にて導出された、補正された反射率R_c(i,j)にlogβを加算した値の真数を取り出すことで、補正された明度U(i,j)が決定される。すなわち、色相・彩度といった色成分を維持したまま、コントラストの補正された出力画像O(x,y)の対象ピクセルp_[i,j]のピクセルデータO(i,j)が決定される。
[終了]
このように、第1.2.1〜3節において詳述した各ステップに係る処理を各ピクセルに対して繰り返すことで、入力画像I(x,y)が画像処理された出力画像O(x,y)が出力される。
1.3 実施例
第1実施形態に係る画像処理装置3を用いた画像処理の実施例について説明する。例えば、図8に示されるような画像を入力画像I(x,y)とすると、第1実施形態に係る画像処理装置3によれば、図9に示されるような出力画像O(x,y)が得られる(実施例)。また、全ピクセルに一様に強調度合を決定するような従来技術に係る画像処理によれば、図10A及び図10Bに示されるような出力画像が得られる(比較例)。
図8の入力画像I(x,y)は、左側が右側に比べて相対的に反射率R(x,y)の値が低いことを特徴とする。このような入力画像I(x,y)に対して、図9に示される実施例では、左側と右側にそれぞれ適切な強調度合g(x,y)を加えることによって、左側、右側それぞれが際立った出力画像O(x,y)が得られている。
一方、図10Aに示される比較例では、強めの強調度合g(x,y)を一様に加えているため、左側についてはコントラストが向上して視認性が上がっているものの、右側のコントラストが限界に達していて視認性が良くない。また、図10Bに示される比較例では、右側のコントラストを抑えるために、図10Aよりも弱めの強調度合g(x,y)を一様に加えているため、左側のコントラストが小さく視認性が悪いといえる。このように、従来技術と比較して、第1実施形態に係る画像処理装置3を用いた画像処理では、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能であり、より視認性の高い出力画像O(x,y)を生成することができることが確認された。
2.第2実施形態
続いて、第2実施形態に係るシステム1について説明する。第2実施形態に係るシステム1の全体構成は、第1実施形態に係るシステム1と同じである。しかしながら、画像処理装置3における信号強度抽出部35及び周辺領域基準値算出部36の画像処理方法が異なることに留意されたい。この点について以下説明する。
ところで、第1実施形態に係る画像処理装置3では、信号強度抽出部35においてガウシアンフィルタG_nが使用されている。ガウシアンフィルタG_nは、対象ピクセルp_[i,j]の周囲のピクセルのピクセルデータも演算に使用するため、対象ピクセルp_[i,j]の演算時に周囲のピクセルデータを記憶しておく必要がある。同様に、周辺領域基準値算出部36でも、local_max()フィルタ及びlocal_min ()フィルタを使用するにあたり、対象ピクセルp_[i,j]の周囲のピクセルに係るピクセルデータの記憶が必要である。このような場合、一般的にフレームメモリが使用される。すなわち、図11に示されるように、第1実施形態に係る画像処理装置3においてはフレームメモリが2度のタイミングで使用されることとなる。
一方、第2実施形態に係る画像処理装置3では、図12に示されるように、フレームメモリの使用を1度限りに抑える工夫がなされている。具体的には、入力画像I(x,y)の対象ピクセルp_[i,j]について、明度V(i,j)から、反射率R(i,j)をいったん導出することなく、基準値S(i,j)が近似的に導出されている(図13参照)。
具体的には、第1実施形態に係る画像処理装置3においても使用しているガウシアンフィルタ、local_max()フィルタ、local_min()フィルタを一度に使用する。すなわち、これらのフィルタを明度V(i,j)に対して適用し、その対数値をとるようにすると、log{local_max(V(i,j))}とlog{G*V(i,j)}の差分、又はlog{local_min(V(i,j))}とlog{G*V(i,j)}の差分が基準値S(i,j)として導出される。
3.変形例
本実施形態は、以下の態様によっても実施することができる。
第1に、本実施形態においては、画像処理の範囲(注目領域)を入力画像I(x,y)(動画であれば1フレーム)の全ピクセルとして説明しているが、使用するピクセルを部分的に選択してもよい。例えば、注目領域を一部の矩形領域としてもよいし、所定サイズの矩形小領域ごとに代表ピクセル(例えば、左上といった特定位置や小領域における中央値)を適宜選択することで縮小画像を生成し、これを注目領域として実施してもよい。
第2に、基準値S(i,j)を決定するにあたり、ROIの複数のピクセル(対象ピクセルp_[i,j]及びその周辺領域)の反射率R(x,y)のうちの最大値R_M又は最小値R_mに代えて、これらの近傍誤差を含む値であるR_M±ΔR_MやR_m±ΔR_mを採用してもよい。近傍誤差は例えば、
0≦ΔR_M≦R_M/20 (4)
0≦ΔR_m≦R_m/5 (5)
を満たすことが好ましい。
具体的には例えば、ΔR_M/R_M=0.001、0.002、0.003、0.004、0.005、0.01、0.02、0.03、0.04、0.05であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。また、ΔR_m/R_m=0.01、0.02、0.03、0.04、0.05、0.10、0.15、0.20であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。
第3に、強調度合決定部37は、上限値OL又は下限値ULに代えて、所定値Tに基づいて強調度合g(x,y)を決定してもよい。なお、かかる場合、所定値Tは、次の式(6)及び(7)を満たすものである。
R≧0のとき、S(x,y)≦T≦OL (6)
R<0のとき、UL≦T≦S(x,y) (7)
第4に、本実施形態においては、対象ピクセルp_[i,j]ごとに画像処理を実行しているが、複数の対象ピクセルからなる小領域ごとに画像処理を実行してもよい。
第5に、上述の種々の処理では2次元配列を想定しているが、最終的に所望の画像が表示部4に表示できるのであれば、演算途中に際して1次元配列として記憶されていてもよい。また、1次元配列又は2次元配列を用いて演算する代わりに、逐次、演算をしてもよい。
第6に、反射率R(x,y)を調整する強調度合g(x,y)及び、照明光成分を調整する照明光調整パラメータの少なくとも一方を調整することで、前述の画像処理を実行できるように実施してもよい。つまり、Retinex理論における関係式であるI(x,y)=L(x,y)R(x,y)を考慮したとき、R(x,y)の値を強調度合g(x,y)により大きくする手段や、R(x,y)の値を大きくする代わりにL(x,y)の値を照明光調整パラメータにより大きくすることで結果的にR(x,y)を上げたことと同じになる手段や、その双方を混ぜ合わせた手段が考えられるということである。
第7に、コンピュータに所定の機能を実行させる画像処理プログラムであって、前記所定の機能は、信号強度抽出機能と、周辺領域基準値算出機能と、強調度合決定機能とを備え、前記コンピュータに入力された入力画像に含まれる所定のピクセルデータを信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、前記信号強度抽出機能によって、前記入力画像の信号強度が抽出され、前記周辺領域基準値算出機能によって、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、前記強調度合決定機能によって、前記小領域の信号強度を高めるように当該信号強度の強調度合が決定され、前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調増加である、プログラムを提供することもできる。また、かかるプログラムの機能を実装したコンピュータ読み取り可能な非一時的な記録媒体として提供することもできる。また、かかるプログラムを、インターネット等を介して配信することもできる。更に、システム1を構成する各部は、同じ筐体に含まれてもよく、複数の筐体に分散配置されてもよい。
4.結言
以上のように、本実施形態によれば、画像の局所エリアごとに反射率の振幅が異なっている画像に対しても適切にコントラストを補正可能な画像処理装置、画像処理方法及び画像処理プログラムを提供することができる。
本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1:システム、2:入力画像源、3:画像処理装置、3B:通信バス、31:制御部、32:記憶部、33:入力部、34:送受信部、35:信号強度抽出部、36:周辺領域基準値算出部、37:強調度合決定部、38:変換出力部、4:表示部、G_n:ガウシアンフィルタ、I:入力画像、L:照明光成分、O:出力画像、OL:上限値、R:反射率、R_M:最大値、R_c:反射率、R_m:最小値、S:基準値、T:所定値、U:明度、UL:下限値、V:明度、W_n:重み付け係数、g:強調度合

Claims (5)

  1. 画像処理装置であって、
    信号強度抽出部と、周辺領域基準値算出部と、強調度合決定部とを備え、
    当該画像処理装置に入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、
    前記信号強度抽出部は、前記入力画像の信号強度を抽出し、
    前記周辺領域基準値算出部は、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、
    前記強調度合決定部は、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、
    前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、
    画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    注目する前記小領域の信号強度をR、前記周辺領域基準値をS、前記所定値をT、出力画像として出力しうる信号強度の上限値及び下限値をそれぞれOL及びULと定義した場合において、
    R≧0のとき、S≦T≦OL
    R<0のとき、UL≦T≦S
    を満たす、
    画像処理装置。
  3. 請求項1又は請求項2に記載の画像処理装置において、
    前記信号強度は、当該画像処理装置に入力された入力画像から反射光成分及び照明光成分を分離し且つこれらに基づいて算出される、
    画像処理装置。
  4. 画像処理方法であって、
    信号強度抽出ステップと、周辺領域基準値算出ステップと、強調度合決定ステップとを備え、
    当該方法に際して入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、
    前記信号強度抽出ステップでは、前記入力画像の信号強度を抽出し、
    前記周辺領域基準値算出ステップでは、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値を算出し、
    前記強調度合決定ステップは、前記小領域の信号強度を高めるように当該信号強度の強調度合を決定し、
    前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、
    画像処理方法。
  5. コンピュータに所定の機能を実行させる画像処理プログラムであって、
    前記所定の機能は、信号強度抽出機能と、周辺領域基準値算出機能と、強調度合決定機能とを備え、
    前記コンピュータに入力された入力画像における反射率を信号強度と定義し、前記入力画像の一部であって少なくとも1つのピクセルからなる領域を小領域と定義した場合において、
    前記信号強度抽出機能によって、前記入力画像の信号強度が抽出され、
    前記周辺領域基準値算出機能によって、注目する前記小領域の周辺に位置する周辺領域の信号強度に基づいて周辺領域基準値が算出され、
    前記強調度合決定機能によって、前記小領域の信号強度を高めるように当該信号強度の強調度合が決定され、
    前記強調度合は、前記周辺領域基準値と所定値との差分に対して単調非減少である、
    画像処理プログラム。
JP2019567822A 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム Active JP6749510B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/002801 WO2019146122A1 (ja) 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP6749510B2 true JP6749510B2 (ja) 2020-09-02
JPWO2019146122A1 JPWO2019146122A1 (ja) 2020-10-22

Family

ID=67394929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019567822A Active JP6749510B2 (ja) 2018-01-29 2018-01-29 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (6)

Country Link
US (1) US11238570B2 (ja)
EP (1) EP3719740B1 (ja)
JP (1) JP6749510B2 (ja)
KR (1) KR102287622B1 (ja)
CN (1) CN111492399B (ja)
WO (1) WO2019146122A1 (ja)

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3083918B2 (ja) * 1992-06-26 2000-09-04 本田技研工業株式会社 画像処理装置
US6941028B2 (en) 2001-04-30 2005-09-06 Hewlett-Packard Development Company, L.P. System and method for image enhancement, dynamic range compensation and illumination correction
JP2004317351A (ja) * 2003-04-17 2004-11-11 Fuji Heavy Ind Ltd 異物検出装置及び異物検出方法
US8023733B2 (en) * 2006-06-08 2011-09-20 Panasonic Corporation Image processing device, image processing method, image processing program, and integrated circuit
JP4218723B2 (ja) 2006-10-19 2009-02-04 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
US7876474B2 (en) * 2006-10-31 2011-01-25 Brother Kogyo Kabushiki Kaisha Image processing device capable of suppressing over-correction in Retinex process
JP2009037283A (ja) * 2007-07-31 2009-02-19 Ricoh Co Ltd 画像処理装置及びこれを備えた画像読取装置、並びに、画像処理方法及び画像処理プログラム
US8289829B2 (en) * 2008-10-01 2012-10-16 Panasonic Corporation Information recording medium and recording/reproduction apparatus
US8780225B2 (en) * 2011-10-12 2014-07-15 Apple Inc. Use of noise-optimized selection criteria to calculate scene white points
CN104620280A (zh) * 2012-09-20 2015-05-13 夏普株式会社 图像处理装置、图像显示装置、图像摄像装置、图像印刷装置、灰度变换方法及程序
WO2014141867A1 (ja) * 2013-03-11 2014-09-18 富士フイルム株式会社 導電性フィルム、これを備える表示装置及び配線の視認性の評価方法
CN108107571B (zh) 2013-10-30 2021-06-01 株式会社摩如富 图像处理装置及方法及非暂时性计算机可读记录介质
US9881364B2 (en) 2015-08-10 2018-01-30 Fuji Xerox Co., Ltd. Image processing apparatus, image processing method and computer readable medium for image enhancement
JP6627530B2 (ja) * 2015-08-10 2020-01-08 富士ゼロックス株式会社 画像処理装置及びプログラム

Also Published As

Publication number Publication date
EP3719740A1 (en) 2020-10-07
KR20200099575A (ko) 2020-08-24
CN111492399A (zh) 2020-08-04
WO2019146122A1 (ja) 2019-08-01
US11238570B2 (en) 2022-02-01
US20200334796A1 (en) 2020-10-22
CN111492399B (zh) 2023-04-28
JPWO2019146122A1 (ja) 2020-10-22
EP3719740A4 (en) 2021-01-06
EP3719740B1 (en) 2023-09-06
KR102287622B1 (ko) 2021-08-06

Similar Documents

Publication Publication Date Title
US10529066B2 (en) Assessing quality of images or videos using a two-stage quality assessment
US11663707B2 (en) Method and system for image enhancement
WO2010101789A2 (en) Multi-modal tone-mapping of images
JP2017151908A (ja) 画像補正装置、画像補正方法及び画像補正用コンピュータプログラム
JP2016031747A (ja) 情報処理装置、情報処理方法
WO2023215371A1 (en) System and method for perceptually optimized image denoising and restoration
CN113808054A (zh) 用于对眼底图像的视盘区域进行修复的方法和相关产品
JP6957665B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6749510B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
KR20070063781A (ko) 색역 내에 존재하는 색상을 영상 적응적으로 조절하는 방법및 장치
US11132776B2 (en) Image processing device, image processing method, and image processing program for maintaining sharpness of image
US20170206637A1 (en) Image correction apparatus and image correction method
JP6749504B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2008021219A (ja) 画像処理装置及び方法
JP6919433B2 (ja) 画像処理装置、画像処理方法、画像処理システムおよびプログラム
JP6992176B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP7409607B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP7372072B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および画像検査システム
JP2016110340A (ja) 画像処理装置、画像処理方法及びプログラム
JP2021077038A (ja) 画像処理装置、画像処理方法、及びプログラム。

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200706

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200706

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200811

R150 Certificate of patent or registration of utility model

Ref document number: 6749510

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250