JP5424921B2 - 画像処理装置及びその制御方法 - Google Patents

画像処理装置及びその制御方法 Download PDF

Info

Publication number
JP5424921B2
JP5424921B2 JP2010024831A JP2010024831A JP5424921B2 JP 5424921 B2 JP5424921 B2 JP 5424921B2 JP 2010024831 A JP2010024831 A JP 2010024831A JP 2010024831 A JP2010024831 A JP 2010024831A JP 5424921 B2 JP5424921 B2 JP 5424921B2
Authority
JP
Japan
Prior art keywords
luminance
histogram
mountain
distribution
weight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010024831A
Other languages
English (en)
Other versions
JP2011071952A5 (ja
JP2011071952A (ja
Inventor
浩平 古谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010024831A priority Critical patent/JP5424921B2/ja
Priority to US12/862,393 priority patent/US8351698B2/en
Publication of JP2011071952A publication Critical patent/JP2011071952A/ja
Publication of JP2011071952A5 publication Critical patent/JP2011071952A5/ja
Application granted granted Critical
Publication of JP5424921B2 publication Critical patent/JP5424921B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は入力された画像の階調補正を行う画像処理装置に関する。
従来の階調補正の技術として、ヒストグラムから山型分布を検出し、特定の位置の山型分布の平均輝度等を計算することで暗部の特徴量を求め、その特徴量をある目標値に持ち上げるような補正を行うことで暗部の輝度階調を補正するものが提案されている。特許文献1ではヒストグラムの山型分布から低輝度部と高輝度部に分ける境界値を算出し、低輝度部の重心を暗部の特徴量として求める構成が記載されている。また、特許文献2ではヒストグラムを構成する山型分布のうち、2番目に明るい山型分布の平均輝度等を暗部の特徴量として求める構成が記載されている。
特許第03772133号公報 特許第04018524号公報
ヒストグラムの形状は画像中に含まれる被写体により細かく変動しているため、特許文献1においてはヒストグラムの形状によっては、本来抽出したい山型分布を抽出できない場合がある。特許文献2においてはこのような問題に対し、ヒストグラムの平滑化を行ったり、閾値を用いて複数の山を結合するなどの手法を取っている。しかしながら、従来の手法は、いずれも閾値(境界値)により低輝度部と高輝度部に分けたり、平均輝度値を算出するべき山型分布を特定したりするため以下のような課題があった。
すなわち、閾値を用いた手法では同じようなシーンを撮影したとしても、ヒストグラムのわずかな違いによって境界値が異なったり、山が結合されるかどうかが異なったりすることがある。このような場合、同じようなシーンを撮影したにもかかわらず、階調補正の結果が大きく異なるものとなってしまう可能性がある。
本発明は上記の課題に鑑みてなされたものであり、ヒストグラムのわずかな違いにより階調補正の量が必要以上に変動することを防止し、あらゆるヒストグラム形状について適切な階調補正を行えるようにすることを目的とする。
上記の目的を達成するための本発明の一態様による画像処理装置は以下の構成を備える。すなわち、
画像における輝度の階調補正を行う画像処理装置であって、
前記画像について、輝度値ごとの画素数を示す度数を第1の側から第2の側へ輝度値の順に並べた輝度ヒストグラムを生成する生成手段と、
前記輝度ヒストグラムの度数分布において下に凸な部分で前記輝度ヒストグラムを分割し、複数の部分ヒストグラムを生成する分割手段と、
前記複数の部分ヒストグラムの一つを注目部分ヒストグラムとし、当該注目部分ヒストグラムよりも前記第1の側にある一つの部分ヒストグラム内の最大度数と、当該最大度数に対応する輝度から当該注目部分ヒストグラムの最大度数に対応する輝度までの間における最小度数との差を候補落差として算出し、当該注目部分ヒストグラムよりも前記第1の側にある全ての部分ヒストグラムについて算出された前記候補落差のうち最大のものを当該注目部分ヒストグラムの落差に決定する算出手段と、
前記注目部分ヒストグラムに対し、前記落差が大きいほど小さい重みを設定する設定手段と、
前記複数の部分ヒストグラムのそれぞれに前記設定手段により設定された重みを適用して得られた輝度ヒストグラムを用いて前記階調補正を行う補正手段とを備える。
本発明は複雑なヒストグラム形状を持つ画像に対してより適した特徴量を求めることが可能となる。
実施形態による撮像装置のブロック構成図。 実施形態による情報処理装置のブロック構成図。 実施形態による画像の階調補正処理を示すフローチャート。 実施形態による山型分布抽出処理を説明する図。 第1の実施形態による山型分布への重みの計算の例を示す図。 第1の実施形態における、重み算出処理を示すフローチャート。 様々な山型分布への重みの計算の例を示す図。 (a)は重み算出処理に係る重みの計算の例を示す図、(b)は補正テーブル生成に係る例を示す図。 第2の実施形態による山型分布への重みの計算の例を示す図。 第3の実施形態による画像の階調補正処理を示すフローチャート。 第3の実施形態における、様々なタイプの山型分布における落差の例を示す図。 実施形態による輝度に応じた重みづけの例を示す図。 第4の実施形態における、重み算出処理を示すフローチャート。
<第1の実施形態>
本実施形態においてはヒストグラムの山型分布において、山型分布中における最大度数(以降山部と表現)と、山型分布の両端に相当する山型分布中における最低度数(以降谷部と表現)との落差に応じて山型分布に重みづけをする。そして、山型分布に含まれるヒストグラムの加算平均を求めることでヒストグラムの形状の変化に応じて滑らかに変化するような特徴量を算出し、画像の階調補正を行う画像処理装置を説明する。
図1は、第1の実施形態の画像処理装置を実現する一つの実施例である撮像装置100の構成を示すブロック図である。撮像装置はデジタルカメラ、デジタルビデオカメラなど、被写体を撮像し画像データを得る装置を含む。図1において、光学系101は、レンズ、シャッター、絞りから構成されていて、被写体からの光を適切な量とタイミングで撮像素子102に結像させる。撮像素子102は、光学系101を通って結像した光を画像に変換する。CPU103は、入力された信号やプログラムに従って、各種の演算や、撮像装置100を構成する各部分の制御を行う。
一次記憶装置104は、一時的なデータを記憶し、CPU103の作業用に使われる。二次記憶装置105は、撮像装置100を制御するためのプログラム(ファームウェア)や各種の設定情報を記憶する。記憶媒体106は、撮影した画像データなどを記憶する。なお、撮影後に記憶媒体106は取り外すことが可能であり、パーソナルコンピュータ(以下、PC)などに装着してデータを読み出すことが可能である。つまり、撮像装置100は記憶媒体106へのアクセス機能を有し、記憶媒体106へのデータの読み書きが行えればよい。表示部107は、撮影時のビューファインダー画像の表示、撮影した画像の表示、対話的な操作のための文字表示などを行う。操作部108は、使用者の操作を受け付けるためのものである。操作部108は例えばボタンやレバー、タッチパネルなどを用いることが可能である。
通信装置109は、外部装置と接続し制御コマンドやデータの送受信を行う。接続を確立し、データ通信するためのプロトコルとしては、例えばPTP(Picture Transfer Protocol)が用いられる。なお、通信装置109は、例えばUSB(UniversalSerialBus)ケーブルなどの有線接続により通信を行ってもよい。また、無線LANなどの無線接続により通信を行ってもよい。また、外部装置と直接接続してもよいし、サーバを経由したりインターネットなどのネットワークを介して外部装置と接続してもよい。
図2は、第1の実施形態の画像処理装置を実現するもう一つの実施例である情報処理装置200の構成を示すブロック図である。図2において、表示部201は、画像処理前の画像の表示、画像処理後の画像の表示、対話的な操作のための文字表示などを行う。操作部202は、使用者の操作を受け付けるためのものである。操作部202は例えばキーボードやポインティング装置などを用いることが可能である。CPU203は、入力された信号やプログラムに従って、各種の演算や、情報処理装置200を構成する各部分の制御を行う。一次記憶装置204は、一時的なデータを記憶し、CPU203の作業用に使われる。二次記憶装置205は、画像処理を行うためのプログラムや各種の設定情報を記憶する。通信装置206は、外部装置と接続し制御コマンドやデータの送受信を行う。通信装置206の形態は通信装置109と同じような形態を選択することも可能である。
図3は本実施形態に係る画像の輝度階調を補正する処理の流れを示した図である。全体の処理の流れは第1、第2の実施形態において共通のものであるが、第1の実施形態では暗部から山型分布の加算平均を求めることで暗部の特徴量を算出し、第2の実施形態では明部から山型分布の加算平均を求めることで明部の特徴量の算出を行っている。以下に、図3を用いて、ヒストグラムの山型分布から画像中の暗部の特徴量を算出し、階調補正を行う第1の実施形態について説明する。なお、以下では撮像装置100における撮影画像に対する輝度階調補正処理を説明するが、情報処理装置200でも一般の画像データ(撮影画像に限らない)に対して同様に実施できることは明らかである。
まず、ステップS301において光学系101及び撮像素子102を通して画像の撮影が行われると、CPU103は、得られた画像に対してステップS302において輝度ヒストグラムを作成する。なお、記憶媒体に記憶された画像を読み出して、当該処理の対象としても良い。また、情報処理装置200で実施した場合は、二次記憶装置205に格納された画像や通信装置206を介して取得された画像を当該処理の対象とすればよい。
本実施形態においては8ビットのRGB信号に対して、以下の[数1]式のような、sRGBで定義される変換式で得られる8ビットの輝度信号Yを計算し、輝度に対する度数を表す輝度ヒストグラムを作成する。すなわち、画像について、以下の式で得られた輝度信号Yの輝度値ごとの画素数である度数を、第1の側である低輝度側から第2の側である高輝度側へ輝度値の順に並べた輝度ヒストグラムが生成される。
Figure 0005424921
次に、CPU103は、ステップS302において得られた輝度ヒストグラムから、ステップS303において山型分布の抽出を行う。山型分布の抽出について図4を用いて説明する。輝度ヒストグラムの形状は画像中に含まれる被写体により図4の(b)に示されるように細かく変動している。そのため、より安定して山型分布を抽出するためには、このような細かな変動を取り除く処理を行う必要がある。そこで、山型分布抽出処理において、図4の(a)のステップS401でCPU103は、輝度ヒストグラム波形の平滑化処理を行い、図4の(b)のような平滑化曲線を得る。
図4の(b)に示したような平滑化曲線を得るために、本実施形態においては各着目輝度の度数と各着目輝度の上下15レベルの度数の平均値を求める、いわゆる31点単純移動平均により平滑化を行っている。ここで、輝度信号Yは8ビットの信号であるため、0から255までの値しか持たず、輝度値が14以下、241以上では、輝度ヒストグラムの情報を持たない輝度値における度数を参照する必要がある。そこで、本実施形態においては、このような場合は輝度ヒストグラムの情報を持たない輝度値における度数を0として換算し、単純移動平均を算出する。但し、この他にも輝度ヒストグラムの情報を持つ輝度値における度数のみを用いることで輝度ヒストグラムの平滑化を行うことも可能であることは言うまでもない。また、本実施形態においては31点単純移動平均を用いたが、範囲を31点以外にしたり、単純移動平均を行った平滑化ヒストグラムに対して繰り返し単純移動平均を行ったりすることで輝度ヒストグラムを平滑化することも可能である。また、白とび、黒潰れの影響を取り除くため、輝度ヒストグラムのある輝度範囲外の輝度値における度数を0として換算するようにしてもよい。
ステップS401で得られた平滑化曲線から、山型分布を抽出するため、ステップS402においてCPU103は変曲点の取得を行う。本実施形態においては、着目輝度の度数と、着目輝度より1レベル高輝度側の輝度の度数との差を求めることで、図4の(c)のような平滑化曲線の傾きを計算する。そしてこの傾きに関して、傾きが正から負に変わる部分、すなわちヒストグラムの度数分布において上に凸な部分を山部、負から正に変わる部分、すなわち度数分布において下へ凸な部分を谷部とする。そして、この谷部によって輝度ヒストグラムを分割することで、複数の部分ヒストグラムを生成する。すなわち、谷部と谷部に挟まれる部分ヒストグラムを抽出する。谷部と谷部に挟まれた部分ヒストグラムは、一般には山型の形状を有するので、以下、この部分ヒストグラムを山型分布ともいう。なお、輝度信号Yを8ビットで扱っている場合には0レベル、255レベルも谷部として抽出する。
このようにして図3におけるステップS303により、山型分布が抽出されると、CPU103はその山型分布の情報をもとに、ステップS304において各山型分布に与える重みを算出する。この重みの算出は、度数を山の高さとする場合において、暗部側から山を走査して行った際に、山の高さが一定以上上った後に一定以上下ったものを山とみなすという考え方に基づいて行う。例えば、暗部から一つ目の山部が非常に低い場合には、そのシーンにおける暗部の特徴はより明部側の山型分布にあると考えることが出来る。また、一つ目の山部が非常に高くてもそこからほとんど下らずにまた山部があった場合には、そのシーンにおける暗部の特徴は一つ目の山部だけでなく、二つ目の山部にも多く含まれていると考えることが出来る。本実施形態は、このような技術思想を的確に反映した重み付けを行い、適切な階調補正を行えるようにするものである。
まず、図5を用いて、本実施形態による重みの算出処理の概要について順を追って説明し、その後、図6のフローチャートにより重みの算出処理を詳細にする。なお、図5においては、(a)に示されるように、3つの山型分布が得られ、暗部の山型分布から順に山型分布1,2,3として説明する。
まず最も低輝度側にある山型分布1に関しては一つ目の山であるため、最大の重み値(本例では重み=1.0)が与えられる。次に山型分布2の重みを計算するにあたり、図5の(b)のように山型分布1の山部に対応する輝度と山型分布2の山部に対応する輝度との間(谷部)の輝度範囲で最小の度数である輝度aの度数を求める。そして、山型分布1の山部の度数と輝度aの度数との差であるxを求める。山型分布2の重みはこの山型分布2に至るまでの落差から算出されるため、山型分布2に対する落差の算出はここで終了し、輝度ヒストグラム全体の最大落差に対するxの割合より、山型分布2の重みを算出する。
次に山型分布3の重みを計算するに当たり、図5の(c)のように、まず山型分布1の山部に対応する輝度と山型分布3の山部に対応する輝度の間の輝度範囲における最小の度数である輝度bの度数を求める。そして、山型分布1の山部の度数と輝度bの度数との差であるyを求める。山型分布3の重みはこの山型分布3に至るまでの落差から算出されるが、山型分布3に至るまでの間には山型分布1の他に山型分布2もあるため、さらに山型分布2に関する処理を行う。図5の(d)に示すように、山型分布2の山部と山型分布3の山部の間における最小の度数である輝度cの度数を求める。そして、山型分布2の山部の度数と輝度cの度数との差であるzを求める。ここで、山型分布3の山部の輝度と山型分布1の山部の輝度の間の輝度範囲における最小度数を持つ輝度と、山型分布3の山部の輝度と山型分布2の山部の輝度の間の輝度範囲における最小度数を持つ輝度は同じ輝度となる。そのため、図5の(c)の輝度bと図5の(d)の輝度cは同じ輝度を示している。
求められたyとzのうち、より大きいyを選択し、これを山型分布3に至るまでの落差とする。こうして求められた落差yを用いて、輝度ヒストグラム全体の最大落差に対するyの割合より、山型分布3の重みを算出する。なお図5の輝度ヒストグラムにおける山型分布は3つしかないため、ここで処理を終了することで、3つの山型分布それぞれに対する重みを算出することができる。
以上の重みの計算をプログラム上で実現するための例を図5、図6を用いて説明する。まず、重みを計算するために必要となる、輝度ヒストグラム全体の最大落差を求めるため、ステップS701においてCPU103は輝度ヒストグラムの最大度数を求め、これを輝度ヒストグラム全体の最大落差Hとおく。なお、生成した輝度ヒストグラムの最大度数と最小度数の差を求め、それを輝度ヒストグラム全体の最大落差Hとしてもよい。
次にステップS702において、CPU103は重みを算出する加重山型分布領域(注目部分ヒストグラム)として抽出する山型分布の番号iを初期化する。ここで、i=1というのは最も暗部側にある山型分布を指しており、明部側に進むにつれてi=2、i=3とインクリメントされていく。番号iによって示される山型分布を注目部分ヒストグラムとし、注目部分ヒストグラムにたいする重み値を決定していく。iをインクリメントしていくことにより、全ての山型分布いついて重み値が設定される。なお、最も低輝度側にある山型分布は重みを1.0として扱うため、ステップS703において重みを1.0とし、ステップS713に進む。
ステップS713において、CPU103は、山型分布iが最後の山型分布かどうかを調べており、輝度ヒストグラム上に山型分布が一つしか見つからなかった場合はそのまま処理を終了する。他方、図5の例のように山型分布が二つ以上存在する場合にはステップS704に進み、加重山型分布領域の番号iをインクリメントし、ステップS705において落差の計算を行う山型分布の番号jを初期化する。ここで、j=1というのは最も暗部側にある山型分布を指しており、明部側に進むにつれてj=2,j=3とインクリメントされていく。また、山型分布iの重みを計算する際にはその山型分布iに至るまでの落差から計算されるため、山型分布jは山型分布iよりも暗部側にある山を対象としており、常にj<iとなる。
次に、ステップS706において、CPU103は、山型分布iの山部の輝度と山型分布jの山部の輝度の間における最小度数minを算出する。これにより、(i,j)=(2,1)の時は図5の(b)の輝度aの度数が算出されこれを最小度数minとする。また、(i,j)=(3,1)の時は図5の(c)の輝度bの度数、(i,j)=(3,2)の時は図5の(d)の輝度cの度数がそれぞれ算出され、これを最小度数minとする。
このようにして算出したminに関し、ステップS707において、CPU103は山型分布jの山部の度数からminを引いたものを山型分布jから山型分布iまでの落差(i,j)とする。先ほどと同様に、(i,j)=(2,1)の時は図5の(b)のxが算出される。また、(i,j)=(3,1)の時は図5の(c)のyが、(i,j)=(3,2)の時は図5の(d)のzがそれぞれ山型分布jから山型分布iまでの落差(i,j)として算出される。
以上のようにして落差(i,j)が求められると、ステップS708、ステップS709において最大落差の更新を行う。この最大落差は山型分布iごとに求められる。例えば、i=2の時は図5の(b)のxのみが算出されるため最大落差はxとなる。また、i=3の時は図5の(c)のyと図5の(d)のzが算出され、より大きいyが最大落差として算出される。このようにCPU103は、重みを算出する山型分布iよりも低輝度側にある山型分布の全てにおいて落差(i,j)を算出し、それらのうちから最大落差を算出する。そのため、ステップS710においてjをインクリメントした結果j<iである間、ステップS706〜S709の処理が繰り返される(ステップS711)。
次に、ステップS712において、CPU103は、こうして求められた最大落差をもとに山型分布iの重み(i)を求める。本実施形態では、ヒストグラム全体の最大落差Hに対する最大落差の割合より山型分布iの重み(i)を算出する。重みの計算においては例えば輝度ヒストグラム全体の最大落差に対する山型分布iの落差の割合が第1の閾値以下の場合は重みを1.0に、山型分布iの落差の割合が第2の閾値以上の場合は重みを0.0とし、その間で重みが減少するようにすることが可能である。例えば、図8の(a)は重みの計算の一例を表している。この例においては輝度ヒストグラム全体の最大落差に対する山型分布iの落差の割合が閾値0.2以下の場合は重みを1.0に、山型分布iの落差の割合が閾値0.7以上の場合は重みを0.0とし、その間で線形に重みが減少することを示している。また、本実施形態においては図8の(a)のような重み値を用いたが、例示した閾値を変更したり、重みの減少度合いを非線形に変更することも可能である。更に、これらの変更をユーザが設定できるようにしても良い。
以上のように、重みの算出では、複数の部分ヒストグラムのうちの注目部分ヒストグラムよりも低輝度の側にある一つの部分ヒストグラムにおける最大度数に対応する輝度から当該注目部分ヒストグラムの最大度数に対応する輝度までの輝度範囲を特定する。そして、当該一つの部分ヒストグラムの最大度数と、上記輝度範囲に存在する最小度数との差を候補落差として算出する。このような候補落差の算出を当該注目部分ヒストグラムよりも低輝度の側にある全ての部分ヒストグラムについて行い、得られた候補落差のうち最大のものを当該注目部分ヒストグラムの落差に決定する。次に、CPU103は、図3のステップS304において算出された重みを用いて、ステップS305において輝度ヒストグラム形状の特徴量の算出を行う。本実施形態においては、特徴量の算出には低輝度側から各山型分布に含まれる輝度の度数を重みづけ加算し、その後に平均を求めることで画像中に含まれる暗部の平均輝度の計算を行い、その平均輝度を特徴量として定める。そのため本実施形態においては、特徴量は以下の[数2]式により計算される。
Figure 0005424921
ここで、Mは山型分布の個数、miLは山型分布iの低輝度側の谷の輝度、miRは山型分布iの高輝度側の谷の輝度、f(k)は輝度kにおける度数、r(i)は山型分布iの重みを表す。
このようにして加重平均により得られた輝度を暗部の特徴量として用いて、階調変換のためのテーブルを更新する。この点については後述することとし、以下、様々な山型分布における本実施例の効果、すなわちヒストグラムの形状によらず適切な特徴量を算出することができる例について図7を参照して説明する。
(1)高さの低い山型分布が検出された場合
図7の(a)のように、高さの低い山型分布xのような山型分布が存在する場合を考える。例えばある閾値よりも高さの低い山型分布を無視するというようにした場合、その閾値近辺の山型分布xを有する画像では、山型分布xが無視されるか否かで結果が大きく変わってしまう。このような輝度ヒストグラムに対し、本実施形態を適用した場合、図7の(a)における山型分布yの重みの計算に用いる落差は図中のhになる。ここで、山型分布xが十分に低い場合であれば落差hも小さくなるため、山型分布xが山型分布として判断されてもされなくても山型分布yの重みは1.0に近くなる。また、山型分布xに含まれる輝度値を持つ被写体が画面内に占める面積が徐々に増えた場合、山型分布xの高さが徐々に上がっていくため、落差hも徐々に増加していく。これに応じて、山型分布yの重みが少しずつ減少していくため、輝度ヒストグラムの変化に応じて徐々に変化していく特徴量を算出することが可能となる。
(2)二つ以上の山型分布が結合している場合
次に図7の(b)のように、二つの山型分布が結合して一つの山型分布を形成しているような場合を考える。この様な場合、例えば各山型分布の平均値や分散値、境界付近の度数等から計算された特徴量がある閾値以上なら二つの山型分布に分離するというようにした場合、その閾値近辺で処理結果が大きく変わってしまうことになる。そこで、このような輝度ヒストグラムに対し、本実施形態を適用した場合、図7の(b)における山型分布yの重みの計算に用いる落差は図中hになる。ここで、二つの山型分布が十分に近い場合であれば落差hも小さくなるため、山型分布yの重みは1.0に近くなる。また、山型分布xが山型分布yから徐々に離れていったり、山型分布xの高さが徐々に上がっていったりした場合は、落差hも徐々に増加していく。本実施形態によれば、これに応じて、山型分布yの重みが少しずつ減少していくため、輝度ヒストグラムの変化に応じて徐々に変化していく特徴量を算出することが可能となる。
(3)山型分布の山部に小さな谷部が存在する場合
図7の(c)のように、ある山型分布の中に谷部が存在した場合、例えばある閾値よりも下がった部分を谷部として判別するようにした場合は、その閾値近辺で結果が大きく変わってしまう。そこで、このような輝度ヒストグラムに対し、本実施形態を適用した場合、図7の(c)における山型分布yの重みの計算に用いる落差は図中hになる。ここで、山型分布の山部に存在する谷部が十分に小さい場合であれば、落差hも小さくなるため、山型分布yの重みは1.0に近くなる。また、これら山型分布x,yが二つの山型分布として徐々に離れていったり、二つの山型分布の分布範囲が徐々に狭くなったりしていった場合は、二つの山型分布に挟まれる谷部が徐々に深くなっていくため、落差hも徐々に増加していく。そして、本実施形態によれば、これに応じて、山型分布yの重みが少しずつ減少していくため、輝度ヒストグラムの変化に応じて徐々に変化していく特徴量を算出することが可能となる。
(4)山型分布が多く存在する場合
図7の(d)のように、輝度ヒストグラムが複雑な形状をしており、山型分布が多く検出される場合は隣り合う山の落差が低くなることがある。そのため、例えば隣り合う山型分布同士の落差や境界付近の度数等から計算された特徴量が、ある閾値以上なら二つに分離するというようにした場合、図7の(d)の例においてはいつまでも山が続くと判別される可能性がある。そこで、このような輝度ヒストグラムに対し、本実施形態を適用した場合、図7の(d)における山型分布xの重みの計算に用いる落差を求めると図中h1になる。図7の(d)の例のように、この落差h1が十分に小さい場合であれば山型分布xの重みは1.0に近くなる。それに対して、山型分布yの重みの計算に用いる落差を求めると、図中h2になり、図7の(d)の例においては、落差が大きいため山型分布yの重みは0.0に近くなる。
以上のように、本実施の形態における特徴量算出手段により、様々な形状を持つヒストグラムに対し、より適した特徴量を算出することが可能となる。
次に、CPU103は、図3のステップS305において得られた特徴量をもとに、ステップS306において補正テーブルを生成する。本実施形態においては図8の(b)に示すような、スプライン補間された曲線を階調変換曲線として用いて画像の補正を行う。本実施形態においてはステップS305から得られた特徴量に応じた目標値をあらかじめ定めており、その特徴量と目標値からなる点801、および点(0,0)、点(255,255)を制御点としてスプライン補間することで補正曲線の算出を行う。この際、高輝度側に制御点を加えることで、高輝度側の階調をそのまま残すようにすることも可能である。また、コントラストの補正などにより、ヒストグラム全体に対して他の補正を行う場合はその補正に応じて特徴量の位置を調整してから目標値を算出し、スプライン補間の制御点とすることも可能である。例えばコントラスト補正で明部側に広げるような補正がされた場合、コントラスト補正前のヒストグラムから求めた特徴量も明度側に引っ張られる。また、例えば、目標値yは特徴量xからy=ax+b(aとbは定数)として求めるように構成することができる。その場合、目標値にはコントラスト調整値の影響は直接には及ばず、コントラスト補正により特徴量xがx'に変わることで目標値yがy'=ax'+bに変わることになる。
ステップS307において、CPU103は、ステップS306で得られた補正テーブルを用いて画像の階調補正を行う。こうして、暗部が補正された画像を得ることができる。以上のように、ヒストグラムの山型分布から特徴量を算出することで画像中の暗部の特徴を効果的に抽出することが可能となり、その画像に対してより適した補正量を定めることが可能となる。また、本実施形態においては階調補正の特性(階調補正曲線)を決定するための特徴量の算出に当たり、複雑な形状を持つようなヒストグラムに対しても安定して特徴量の算出を行うことが可能となる。
<第2の実施形態>
前述の第1の実施形態では暗部の特徴量として低輝度側から山型分布を重みづけ加算する例を示したが、高輝度側から山型分布を重みづけ加算することで、明部の特徴量を求めることも可能である。第2の実施形態では明部の特徴量を求める処理を説明する。第2の実施形態の実現においては第1の実施形態と同じように、図1のような撮像装置や図2のような情報処理装置を用いることが可能である。この場合、第1の側を高輝度側とし、第2の側を低輝度側として輝度値の順に並べた輝度ヒストグラムが生成し、第1の側から山型分布を順に選択して重みを決定すればよく、その処理の詳細は第1の実施形態の説明から当業者には明らかである。こうして得られた明部の特徴量を単独で用いて階調補正の特性を変更しても良いが、第1実施形態で求めた暗部の特徴量とともに用いて階調補正の特性を変更することも可能である。本実施形態ではこのように二つの特徴量を用いて階調補正の特性を変更する場合を説明する。すなわち、本実施形態では、ステップS302で生成された輝度ヒストグラムから、第1の実施形態で示したように暗部の特徴量を算出するとともに、明部の特徴量を算出するものとする。従って、第2の実施形態では、第1の実施形態で説明した特徴量の算出処理に加えて、輝度ヒストグラムの輝度の大きい側から順に、i=1,2,3、j=1,2,3を付与してステップS304、S305の処理を実行する。
以下に、明部の特徴量を求める場合の各山型分布の重みの算出処理の概要を図9を用いて順を追って説明する。図9の(a)においては、明部の山型分布から順に山型分布1,2,3としている。まず最も高輝度側にある山型分布1に関しては一つ目の山であるため、重み=1.0とする。次に山型分布2の重みを計算するにあたり、図9の(b)のように山型分布1の山部と山型分布2の山部の間における最小の度数である輝度aの度数を求める。そして、山型分布1の山部の度数と輝度aの度数との差であるxを求める。
山型分布2の重みはこの山型分布2に至るまでの落差から算出されるため、山型分布2に対する落差の算出はここで終了し、輝度ヒストグラム全体の最大落差に対するxの割合より、山型分布2の重みを算出する。
次に山型分布3の重みを計算するに当たり、図9の(c)のように、まず山型分布1の山部と山型分布3の山部の間における最小の度数である輝度bの度数を求める。そして、山型分布1の山部の度数と輝度bの度数との差であるyを求める。山型分布3の重みはこの山型分布3に至るまでの落差から算出されるが、山型分布3に至るまでの間には山型分布1の他に山型分布2もあるため、さらに山型分布2に関する処理を行う。図9の(d)のように、山型分布2の山部と山型分布3の山部の間における最小の度数である輝度cの度数を求める。そして、山型分布2の山部の度数と輝度cの度数との差であるzを求める。こうして求められたyとzのうち、より大きいyを選択し、これを山型分布3に至るまでの落差とする。以上のようにして求められた落差yを用いて、輝度ヒストグラム全体の最大落差に対するyの割合より、山型分布3の重みを算出する。
図9の輝度ヒストグラムにおける山型分布は3つしかないため、ここで処理を終了することで、これら3つの山型分布それぞれに対する重みを算出することができる。
本実施形態においては、特徴量の算出には高輝度側から各山型分布に含まれる輝度の度数を重みづけ加算し、その後に平均を求めることで画像中に含まれる明部の平均輝度の計算を行い、その平均輝度を特徴量として定める。そのため本実施形態において、明部の特徴量は以下の式により計算される。
Figure 0005424921
ここで、Mは山型分布の個数、miLは山型分布iの低輝度側の谷の輝度、miRは山型分布iの高輝度側の谷の輝度、f(k)は輝度kにおける度数、r(i)は山型分布iの重みを表す。このようにして、画像中の明部の特徴量を抽出することが可能となる。
第1の実施形態で説明したように、暗部の制御点のみから作成されたスプライン曲線を用いて補正を行うと、明部の階調が失われてしまうことがある。これに対して、第2の実施形態においては、ヒストグラムの山型分布から明部の特徴量を求め、その明部の特徴量を用いてスプライン補間の制御点を追加することにより、明部の階調が失われるのを緩和することが可能となる。
<第3の実施形態>
ヒストグラムを解析するにあたり、特許文献1においてはすべての輝度の度数を等価に扱っている。しかしながら、例えば一様な青空を多く含むようなシーンでは高輝度部の限られた領域にヒストグラムが集中してしまうため、全ての輝度の度数を等価に扱ってしまうとヒストグラムの集中した範囲が解析に与える影響が不必要に大きくなってしまう。そのため、そのようなシーンにおいて好ましい特徴量の算出を行うことが出来なくなってしまう。また、特許文献2においては、人物の顔などの特定の被写体が持つ輝度値の度数を強調しているため、当該被写体に対して好ましい補正を行いたい際に有効ではある。しかしながら、逆光風景のような補正したい領域の輝度が広く分布しているシーンにおいてはうまく作用することが出来ない。
第3の実施形態においてはヒストグラムの形状解析の手法として、第1実施形態と同様の手法を用いる。すなわち、ヒストグラムから山型分布を抽出し、当該山型分布の山と谷の落差を判定基準とした重みを用いてシーンの特徴量を算出する。但し、第3の実施形態では、当該重みの算出においてはヒストグラムに対して輝度に応じた重み付けをした第2の輝度ヒストグラムを用いて算出し、それをもとにヒストグラムの形状解析を行い、画像の階調補正を行う。
第3実施形態による画像処理装置としての撮像装置、或いは情報処理装置の構成は第1の実施形態(図1、図2)と同様である。
図10は第3の実施形態に係る、画像の輝度諧調を補正する処理の流れを示した図である。全体の処理の流れは各実施形態共通のものであるが、第3の実施形態ではステップS1001において重みづけされた山型分布の山と谷の落差を判定基準とすることで、ステップS304における重みの算出を行っている。以下に、図10を用いて、ヒストグラムから山型分布を抽出し、当該山型分布の山と谷の落差を判定基準とした重みを用いてシーンの特徴量を算出する、第3の実施形態の処理について説明する。なお、以下では撮像装置100における撮影画像に対する輝度階調補正処理を説明するが、情報処理装置200でも一般の画像データ(撮影画像に限らない)に対して同様に実施できることは明らかである。
まず、第1の実施形態と同様に、ステップS301〜S303において、画像の撮影が行われ、その輝度ヒストグラムが生成され(第1の生成処理)、輝度ヒストグラムから山型分布が抽出される。山型分布の抽出においては、上述のように、例えば一度ヒストグラムを移動平均等の平滑化手法により平滑化した上で平滑化曲線の変曲点で、上に凸の部分をヒストグラムの山、下に凸の部分をヒストグラムの谷とする。そして、ある谷から次の谷までを山型分布として抽出するといった手法が考えられる。例えば図11の(a)のような平滑化曲線では3つの山型分布が確認できる。
図11の(a)に示すような山型分布の場合、あるシーンにおける主要な被写体の塊により構成される山型分布1103(図11の(d))の他に、
・画像中に占める面積が小さく、当該シーンへの影響の小さい被写体の塊により構成される山型分布1101(図11の(b))、
・被写体の細かい形状からなる山型分布1102(図11の(c))、
等が存在しうる。
当該シーンの特徴量を算出する場合においては、主要な被写体の塊により構成される山型分布から特徴量が算出されることが望ましい。しかしながら、前述のような複数の山型分布を区別しないと、
・図11の(b)のようなシーンへの影響の小さい山型分布1101から特徴量を算出したり、
・図11の(d)を構成する主要な被写体の塊のうち図11の(c)の部分のみからなる山型分布1102から特徴量を算出したりする、
といった可能性が考えられる。このような課題への対処が、第1実施形態で説明したステップS304の処理に当たる。図10においては、このステップS304の処理の前に、上述した第2の輝度ヒストグラムを生成するための第2の生成処理を行うステップS1001があるが、ここでは説明のため、先にステップS304について説明する。
ステップS304においては、CPU103は複数の山型分布のシーンへの影響度を判定するための尺度として、ヒストグラム全域における最大落差に対する山型分布の山と谷の落差を判定基準として重みを算出する。つまり、落差が大きい山型分布には大きい重みを与え、落差が小さい山型分布には小さい重みを設定する。これは、ヒストグラムの形状において、山が十分上り、かつ十分下った時に主要な被写体の塊により構成される山型分布が検出されたという考え方に基づくものである。ヒストグラム全域における最大の落差に対して、ある山型分布の山と谷がどれほどの落差を有しているかが判別される。
例えば、図11の(b)のような、画像中に占める面積が小さく、シーンへの影響の小さい被写体の塊により構成される山型分布1101の落差は、図11の(b)中に示したものとなる。この落差は、図11の(a)中に示したヒストグラム全域における最大落差に対して小さな値となっている。また、図11の(c)のような、被写体の細かい形状により図11の(d)の山型分布1103から分離して抽出されてしまった山型分布1102の場合では、山が十分に上ってはいるが山が下った量が少ない。そのため、落差は図11の(c)中に示したものとなり、図11の(a)に示したヒストグラム全域における最大落差に対して小さな値となっている。
これらシーンへの影響の小さい山型分布に対し、図11の(d)のような、シーンにおける主要な被写体の塊により構成される山型分布1103は山が十分上り、かつ十分下っている。そのため、落差は図11の(d)中に示したものとなり、図11の(a)に示したヒストグラム全域における最大落差とほぼ同じ値となる。
このようにすることでヒストグラムから複数の山型分布が検出された際にそれら山型分布のうち、シーンにおける主要な被写体の塊により構成される山型分布に、より大きい重みを与えることが可能となる。なお、このようなヒストグラム全域における最大落差に対する山型分布の山と谷の落差から山型分布の重みを算出する処理をプログラム上で実現するための例は、図5、図6を用いて上述したとおりである。
このようにしてヒストグラム全域における最大落差に対する山型分布の山と谷の落差から山型分布の重みを算出することが可能である。しかしながら、例えば暗部が広く分布しており、かつ一様な青空を多く含むようなシーンにおけるヒストグラムは図12の(a)のように、高輝度部に青空による高い山が存在している。このため、ヒストグラム中の最大落差は当該青空部分から算出され、図12の(a)中に示したものとなる。これにより、図12の(a)のように、要補正部と考えられる暗部に広く分布しているような山型分布1201の重み値と、青空部分に対応する山型分布1202との重み値とはともに高い値となる。その結果、山型分布1201は相対的に低い山型分布と判定されてしまい、特徴量算出への寄与の度合いが小さくなってしまう。
そこで、第3実施形態では、ステップS304による山型分布への重み値の設定を実行する前に、第2の生成処理としてのステップS1001を実行する。すなわち、CPU103はヒストグラムに対し、図12の(b)のような特定の輝度値以上の領域に対して輝度値が高いほど徐々に減っていくような重みを与えることにより第2の輝度ヒストグラムを生成する。そして、ステップS304では、この第2の輝度ヒストグラムに対して重み値の設定が行われる。これにより、図12の(a)に示したヒストグラムから、図12の(c)のような第2の輝度ヒストグラムが得られる。そして、この第2の輝度ヒストグラムから最大落差の算出が行われることより、最大落差は図12の(c)中に示したようになり、相対的に暗部の山型分布の高さが上がる。そのため、ステップS304において、暗部に広く分布している山型分布1204に対する重み値に対して山型分布1204に対する重み値を低くすることができる。すなわち、CPU103は暗部に広く分布している山型分布に対しても、より大きい重みを算出することが可能となる。
なお、図12の(a)では暗部の山型分布が広く分布しており、かつ高輝度部の限られた領域にヒストグラムが集中しているようなシーンにおけるヒストグラムを示した。次に、これとは逆に、図12の(d)のようなヒストグラムを持つシーンであった場合の動作について説明する。図12の(d)では最も暗部側にある山型分布1205の高さが明部側にあるその他の山型分布1206の高さよりも高いため、最大落差は図12の(d)中に示したようになっている。これに対して先ほどと同様に図12の(b)の重みを与えた場合、得られる第2の輝度ヒストグラムは図12の(e)のようになる。図12の(e)から最大落差を求めた場合には図12の(e)中に示したようになっており、図12の(d)中に示したものと同じものを示している。つまり、本手法によりヒストグラムの形状解析を行うことで、
・図12の(a)のような高輝度部の限られた領域に集中している山型分布の影響が不必要に大きくなってしまうシーンに対して適切に重み値を設定する効果を出し、
・図12の(d)のようなシーンに対しては、不必要な影響を与えずに重み値を設定できる。
このようにして、ステップS1001、S304において算出された山型分布の重みを用いて、CPU103は、ステップS305において輝度ヒストグラム形状の特徴量の算出を行う。本実施形態においては、特徴量の算出には低輝度側から各山型分布に含まれる輝度の度数を重みづけ加算し、その後に平均を求めることで画像中に含まれる暗部の平均輝度の計算を行い、その平均輝度を特徴量として定める。そのため本実施形態においては、特徴量は以下の[数4]式により計算される。
Figure 0005424921
ここで、Mは山型分布の個数、miLは山型分布iの低輝度側の谷の輝度、miRは山型分布iの高輝度側の谷の輝度、f(k)は輝度kにおける度数、r(i)は山型分布iの重みを表す。
なお、ここで用いる輝度kにおける度数f(k)はステップS1001で重みづけを行う前のヒストグラムを用いても良いし、重みづけを行った後の第2の輝度ヒストグラムを用いることも可能である。[数4]式において、ステップS1001で重みづけを行う前のヒストグラムを用いた場合には、第2の輝度ヒストグラムの影響は、
・ステップS304における山型分布の重み算出に用いる最大落差、及び、
・ステップS1001でヒストグラムにかける重みを1.0以外とした輝度に係る山型分布の重み算出に用いる落差、
のみにかかる。そのため、前述したように図12の(a)のようなヒストグラムを持つシーンに効果を出しながら、図12の(d)のようなヒストグラムを持つシーンには、第2の輝度ヒストグラムを用いた場合よりも更に影響を与えないようにすることが可能である。
以上のように、本実施の形態における特徴量算出手段により、要補正部の輝度が広く分布しており、限られた領域にヒストグラムが集中しているようなシーンにおいてもより好ましい補正を行うことが可能となる。
図10に戻り、ステップS306においてCPU103は補正テーブルを生成する。補正テーブルの生成は第1の実施形態で説明したとおりである。そして、ステップS307においてCPU103は、ステップS306で得られた補正テーブルを用いて階調補正を行う。階調補正の処理も第1の実施形態で説明したとおりである。
以上のように第3の実施形態によれば、ヒストグラムの山型分布から特徴量を算出することで画像中の暗部の特徴を効果的に抽出することが可能となり、その画像に対してより適した補正量を定めることが可能となる。また、本実施形態においては階調補正の特性(階調補正曲線)を決定するための特徴量の算出に当たり、要補正部の輝度が広く分布しており、かつ限られた領域にヒストグラムが集中しているようなシーンにおいてもより好ましい特徴量の算出を行うことが可能となる。
<第4の実施形態>
第3の実施形態では、解析対象のヒストグラムとして、各度数に輝度に対応した重み値を作用させて第2の輝度ヒストグラムを生成することにより、種々のヒストグラムの形状解析において好適に特徴量の算出することが可能となることを示した。したがって、前述の第3の実施形態では、ヒストグラム形状の解析において山型分布の山と谷の落差を判定基準とした重みを用いてシーンの特徴量を算出する例を示したが、これに限られるものではない。第4の実施形態では、そのようなヒストグラムの形状解析の手法の他の例として、ある山型分布に含まれる度数の合計が、全度数に対してどれだけの割合となっているかを判定基準とした重みを用いてシーンの特徴量を求める場合を説明する。なお、第4の実施形態の実現においては第3の実施形態と同じように、図1のような撮像装置や図2のような情報処理装置を用いることが可能である。
第4の実施形態の処理の流れは前述した第3の実施形態と共通である。但し、第4の実施形態では、ステップS1001において、山型分布に含まれる度数の合計が、全度数に対してどれだけの割合となっているかという度数割合を判定基準とすることで山型分布の重みを算出している。
第4の実施形態では、当該度数割合の合計がある閾値より大きくなるまで山型分布を加算していき、その平均を求めることで暗部の特徴量の算出を行う。当該特徴量の算出においては第3の実施形態と同様に[数4]式により実現されるものであり、[数4]式の算出に必要となる山型分布の重みの算出(S304の処理)をプログラム上で実現するための例を図13を用いて説明する。
まずステップS1301において、CPU103は、各山型分布に対して以下の[数5]式により、全度数に対する山型分布iに含まれる度数の合計の割合S(i)を算出する。
Figure 0005424921
ここで、Mは山型分布の個数、miLは山型分布iの低輝度側の谷の輝度、miRは山型分布iの高輝度側の谷の輝度、f(k)は輝度kにおける度数を表す。
次に、ステップS1302、S1303において、CPU103は、これまでの度数割合の合計Sum、重みを算出する山型分布の番号iの初期化を行う。ここで、i=1というのは最も暗部側にある山型分布を指しており、明部側に進むにつれてi=2、i=3とインクリメントされていく。
次にステップS1304において、CPU103は、これまでの度数割合の合計に、山型分布iの度数割合を足し合わせた累積値(Sum)が閾値以上となるかどうかの判定を行う。閾値以上とならなかった場合はステップS1305に進み、その山型分布iの重み(i)を1としてステップS1306に進む。ステップS1306において、CPU103は、これまでの度数割合の合計に山型分布iの度数割合を足し合わせ、ステップ1307で山型分布の番号iをインクリメントした後、ステップS1304に処理を戻す。ステップS1304において、CPU103は、これまでの度数割合の合計に山型分布iの度数割合を足し合わせたものが閾値を超えた場合は、処理をステップS1308に進める。ステップS1308において、CPU103は、閾値からこれまでの度数割合の合計を引いた値を山型分布iの度数割合で割って得られた値を重みとし、ステップS1309に進む。以降の山の重みはステップS1309からステップS1311を繰り返すことで全て0とする。
このようにして山型分布に含まれる度数の合計が、全度数に対してどれだけの割合となっているかを判定基準とした重みの算出を行うことができる。そして、この場合にも第3の実施形態で示した、輝度に応じたヒストグラムへの重みづけを行った第2の輝度ヒストグラムを用いることが可能である。第4の実施形態で当該第2の輝度ヒストグラムを用いて重みを算出することで、高輝度側に係る山型分布の重みを減らし、暗部側にある山型分布の重みを相対的にあげることが可能となる。これにより、限られた領域にヒストグラムが集中しているようなシーンにおいて、ヒストグラムの集中した範囲が解析に与える影響が不必要に大きくなることを防ぐことが可能となる。以上のようにして求めた重みを、第3の実施形態と同様にステップS306以降の処理に用いることが可能である。
以上のように、第3、第4の実施形態によれば、要補正部の輝度が広く分布しており、限られた領域にヒストグラムが集中しているようなシーンにおいてより好ましい補正を行うことが可能となる。
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。
例えば、本発明は画像の明るさを示すパラメータ値のヒストグラムを用いてその階調補正の補正特性を決定するものであるので、パラメータ値としては、画像の輝度値に限られず、画像の濃度値であっても良い。濃度補正による実施形態は、上記実施形態において輝度を濃度に変更したものとなる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である

Claims (16)

  1. 画像における輝度の階調補正を行う画像処理装置であって、
    前記画像について、輝度値ごとの画素数を示す度数を第1の側から第2の側へ輝度値の順に並べた輝度ヒストグラムを生成する生成手段と、
    前記輝度ヒストグラムの度数分布において下に凸な部分で前記輝度ヒストグラムを分割し、複数の部分ヒストグラムを生成する分割手段と、
    前記複数の部分ヒストグラムの一つを注目部分ヒストグラムとし、当該注目部分ヒストグラムよりも前記第1の側にある一つの部分ヒストグラム内の最大度数と、当該最大度数に対応する輝度から当該注目部分ヒストグラムの最大度数に対応する輝度までの間における最小度数との差を候補落差として算出し、当該注目部分ヒストグラムよりも前記第1の側にある全ての部分ヒストグラムについて算出された前記候補落差のうち最大のものを当該注目部分ヒストグラムの落差に決定する算出手段と、
    前記注目部分ヒストグラムに対し、前記落差が大きいほど小さい重みを設定する設定手段と、
    前記複数の部分ヒストグラムのそれぞれに前記設定手段により設定された重みを適用して得られた輝度ヒストグラムを用いて前記階調補正を行う補正手段とを備えることを特徴とする画像処理装置。
  2. 前記補正手段は、前記複数の部分ヒストグラムのそれぞれに前記設定手段により設定された重みを適用して前記輝度ヒストグラムの加重平均を算出することにより、前記階調補正における補正の特性を決定するための特徴量としての輝度値を取得し、該輝度値に基づいて前記階調補正を行うことを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正手段は、前記取得された特徴量としての輝度値が予め定められた輝度値に変換されるように、前記階調補正の特性を決定することを特徴とする請求項2に記載の画像処理装置。
  4. 前記補正手段は、輝度値の低い方を前記第1の側とし、輝度値の高い方を前記第2の側として得られた特徴量と、輝度値の高い方を前記第1の側とし、輝度値の低い方を前記第2の側として得られた特徴量とを用いて前記特性を決定することを特徴とする請求項3に記載の画像処理装置。
  5. 前記複数の部分ヒストグラムのうち、最も前記第1の側にある部分ヒストグラムの重みが最大の重み値に設定されることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
  6. 前記生成手段では、輝度値ごとの画素数を示す度数を第1の側から第2の側へ輝度値の順に並べたヒストグラムを平滑化して得られた平滑化曲線を前記輝度ヒストグラムとすることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  7. 前記輝度ヒストグラムの各度数に対して、輝度値に応じた重みを適用して第2の輝度ヒストグラムを生成する手段を更に備え、
    前記算出手段及び前記設定手段は前記第2の輝度ヒストグラムを用いて前記重み値を設定することを特徴とする請求項1乃至6のいずれか1項の記載の画像処理装置。
  8. 前記補正手段は、前記輝度ヒストグラムあるいは前記第2の輝度ヒストグラムにおける複数の部分ヒストグラムのそれぞれに前記設定手段により設定された重みを適用して前記輝度ヒストグラムあるいは前記第2の輝度ヒストグラムの加重平均を算出することにより、前記階調補正における補正の特性を決定することを特徴とする請求項7に記載の画像処理装置。
  9. 画像における輝度の階調補正を行う画像処理装置であって、
    前記画像について、輝度値ごとの画素数を示す度数からなる輝度ヒストグラムを生成する生成手段と、
    前記輝度ヒストグラムに、輝度値に応じた重みを作用させて第2の輝度ヒストグラムを生成する第2の生成手段と、
    前記第2の輝度ヒストグラムを用いてヒストグラム形状を解析し、前記第2の輝度ヒストグラムにおける各山型分布に対する重み値を設定する設定手段と、
    前記設定手段により設定された重み値を前記輝度ヒストグラムあるいは前記第2の輝度ヒストグラムに適用して、前記階調補正のための特徴量を取得する取得手段とを備えることを特徴とする画像処理装置。
  10. 前記輝度値に応じた重みは、予め定められた輝度値よりも高輝度側の輝度値に対して、輝度値の増加とともに減少する特性を有することを特徴とする請求項9に記載の画像処理装置。
  11. 前記設定手段は、前記各山型分布により形成される山と谷の落差を判定基準として、前記各山型分布の重み値を設定することを特徴とする請求項9に記載の画像処理装置。
  12. 前記設定手段は、山型分布に含まれる度数の合計が、全度数に対してどれだけの割合となっているかを判定基準として、前記各山型分布の重み値を設定することを特徴とする請求項9に記載の画像処理装置。
  13. 画像における輝度の階調補正を行う画像処理装置の制御方法であって、
    生成手段が、前記画像について、輝度値ごとの画素数を示す度数を第1の側から第2の側へ輝度値の順に並べた輝度ヒストグラムを生成する生成工程と、
    分割手段が、前記輝度ヒストグラムの度数分布において下に凸な部分で前記輝度ヒストグラムを分割し、複数の部分ヒストグラムを生成する分割工程と、
    算出手段が、前記複数の部分ヒストグラムの一つを注目部分ヒストグラムとし、当該注目部分ヒストグラムよりも前記第1の側にある一つの部分ヒストグラム内の最大度数と、当該最大度数に対応する輝度から当該注目部分ヒストグラムの最大度数に対応する輝度までの間における最小度数との差を候補落差として算出し、当該注目部分ヒストグラムよりも前記第1の側にある全ての部分ヒストグラムについて算出された前記候補落差のうち最大のものを当該注目部分ヒストグラムの落差に決定する算出工程と、
    設定手段が、前記注目部分ヒストグラムに対し、前記落差が大きいほど小さい重みを設定する設定工程と、
    補正手段が、前記複数の部分ヒストグラムのそれぞれに前記設定工程により設定された重みを適用して得られた輝度ヒストグラムを用いて前記階調補正を行う補正工程とを有することを特徴とする画像処理装置の制御方法。
  14. 画像における輝度の階調補正を行う画像処理装置の制御方法であって、
    第1の生成手段が、前記画像について、輝度値ごとの画素数を示す度数からなる輝度ヒストグラムを生成する第1の生成工程と、
    第2の生成手段が、前記輝度ヒストグラムに、輝度値に応じた重みを作用させて第2の輝度ヒストグラムを生成する第2の生成工程と、
    設定手段が、前記第2の輝度ヒストグラムを用いてヒストグラム形状を解析し、前記第2の輝度ヒストグラムにおける各山型分布に対する重み値を設定する設定工程と、
    取得手段が、前記設定工程により設定された重み値を前記輝度ヒストグラムあるいは前記第2の輝度ヒストグラムに適用して、前記階調補正のための特徴量を取得する取得工程とを有することを特徴とする画像処理装置の制御方法。
  15. コンピュータを、請求項1乃至12のいずれか1項に記載された画像処理装置の各手段として機能させるためのプログラム。
  16. 請求項15に記載のプログラムを格納したコンピュータによって読み取りが可能な記憶媒体。
JP2010024831A 2009-08-31 2010-02-05 画像処理装置及びその制御方法 Expired - Fee Related JP5424921B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010024831A JP5424921B2 (ja) 2009-08-31 2010-02-05 画像処理装置及びその制御方法
US12/862,393 US8351698B2 (en) 2009-08-31 2010-08-24 Image processing apparatus and control method thereof

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009201085 2009-08-31
JP2009201085 2009-08-31
JP2010024831A JP5424921B2 (ja) 2009-08-31 2010-02-05 画像処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2011071952A JP2011071952A (ja) 2011-04-07
JP2011071952A5 JP2011071952A5 (ja) 2013-03-21
JP5424921B2 true JP5424921B2 (ja) 2014-02-26

Family

ID=43625010

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010024831A Expired - Fee Related JP5424921B2 (ja) 2009-08-31 2010-02-05 画像処理装置及びその制御方法

Country Status (2)

Country Link
US (1) US8351698B2 (ja)
JP (1) JP5424921B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8577141B2 (en) * 2010-11-05 2013-11-05 Lg Innotek Co., Ltd. Method of enhancing contrast using bezier curve
JP5652227B2 (ja) * 2011-01-25 2015-01-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP5777570B2 (ja) * 2011-06-24 2015-09-09 東京エレクトロン株式会社 画像処理方法、画像表示方法、画像処理装置、プログラム及びコンピュータ記憶媒体
JP5687657B2 (ja) * 2012-05-25 2015-03-18 株式会社東芝 物体検出装置、物体検出方法及び物体検出プログラム
EP3046319A1 (en) * 2015-01-19 2016-07-20 Thomson Licensing Method for generating an HDR image of a scene based on a tradeoff between brightness distribution and motion
JP2017139678A (ja) 2016-02-05 2017-08-10 Necプラットフォームズ株式会社 画像データ変換装置、画像データ変換方法、画像データ変換用プログラム、pos端末装置、及びサーバ
JP6338194B2 (ja) * 2017-08-09 2018-06-06 Necプラットフォームズ株式会社 画像データ変換装置、画像データ変換方法、画像データ変換用プログラム、pos端末装置、及びサーバ
JP6384942B2 (ja) * 2018-05-08 2018-09-05 Necプラットフォームズ株式会社 画像データ変換装置、画像データ変換方法、画像データ変換用プログラム、pos端末装置、及びサーバ
JP6384943B2 (ja) * 2018-05-08 2018-09-05 Necプラットフォームズ株式会社 画像データ変換装置、画像データ変換方法、画像データ変換用プログラム、pos端末装置、及びサーバ
CN111866306B (zh) * 2019-04-24 2023-04-18 瑞昱半导体股份有限公司 对比调整系统及对比调整方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0418524A (ja) 1990-05-14 1992-01-22 Nippon Telegr & Teleph Corp <Ntt> アクティブマトリクス液晶表示パネルの製作法
JP3046493B2 (ja) * 1994-05-09 2000-05-29 シャープ株式会社 画像処理装置
JP3407525B2 (ja) * 1995-03-07 2003-05-19 ミノルタ株式会社 画像再現装置
JP3626966B2 (ja) * 1996-03-28 2005-03-09 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置
US7289154B2 (en) * 2000-05-10 2007-10-30 Eastman Kodak Company Digital image processing method and apparatus for brightness adjustment of digital images
US6873729B2 (en) * 2000-07-14 2005-03-29 Ricoh Company, Ltd. Method, apparatus and computer program product for processing image data
TWI231701B (en) * 2001-06-14 2005-04-21 Matsushita Electric Ind Co Ltd Automatic tone correction device, automatic tone correction method, and tone correction program recording medium
JP3772133B2 (ja) * 2001-06-14 2006-05-10 松下電器産業株式会社 自動階調補正装置,自動階調補正方法および自動階調補正プログラム記録媒体
JP4018524B2 (ja) * 2002-12-16 2007-12-05 キヤノン株式会社 画像処理方法および装置ならびにプログラム
SG118191A1 (en) * 2003-06-27 2006-01-27 St Microelectronics Asia Method and system for contrast enhancement of digital video
JP5196731B2 (ja) * 2006-04-20 2013-05-15 キヤノン株式会社 画像処理装置及び画像処理方法
US7639893B2 (en) * 2006-05-17 2009-12-29 Xerox Corporation Histogram adjustment for high dynamic range image mapping
JP5046119B2 (ja) * 2008-01-22 2012-10-10 学校法人東京理科大学 プログラム、画像間変化箇所判読支援動画生成方法、及び画像間変化箇所判読支援動画生成装置
JP4998287B2 (ja) * 2008-01-25 2012-08-15 ソニー株式会社 画像処理装置および方法、並びにプログラム

Also Published As

Publication number Publication date
JP2011071952A (ja) 2011-04-07
US8351698B2 (en) 2013-01-08
US20110052060A1 (en) 2011-03-03

Similar Documents

Publication Publication Date Title
JP5424921B2 (ja) 画像処理装置及びその制御方法
JP4519708B2 (ja) 撮影装置および方法並びにプログラム
US8554010B2 (en) Image processing apparatus combining plural sets of image data and method for controlling the same
JP5753393B2 (ja) 画像処理装置及び方法
CN110728633B (zh) 多曝光度高动态范围反色调映射模型构建方法及装置
CN100565319C (zh) 曝光控制装置和图像摄取装置
CN101013470B (zh) 面部重要度确定装置和方法、及图像摄取装置
JP4645921B2 (ja) 画像信号処理装置および方法、プログラム、並びに撮像装置
US20100177215A1 (en) Image processing apparatus and recording medium
JP4935049B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US20220222792A1 (en) Method and system for image enhancement
JP2009038523A (ja) 画像処理装置及び画像処理方法
JP6818463B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN1591172A (zh) 图像处理方法和装置
CN102946513A (zh) 一种启动拍摄装置高动态范围功能的方法、装置及终端
JP5211521B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、およびカメラ
JP2005252711A (ja) デジタルスチルカメラを用いた撮影システム、及び撮影制御方法
JP6357881B2 (ja) 画像処理装置及びプログラム
JP2009065350A (ja) 画像処理装置、画像処理方法、及び記憶媒体
JP5127638B2 (ja) 画像処理装置およびその方法
JPWO2008004439A1 (ja) 階調補正特性評価装置、画像処理装置、階調補正特性評価方法、画像処理方法、階調補正特性評価プログラム、および画像処理プログラム
JP5414216B2 (ja) 撮像装置、その制御方法及びプログラム
US20100053360A1 (en) Image processing method and image processing apparatus
JP5381354B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記憶媒体
JP6627530B2 (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130204

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131028

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131126

R151 Written notification of patent or utility model registration

Ref document number: 5424921

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees