JP2015139082A - 画像処理装置、画像処理方法、プログラム、および電子機器 - Google Patents
画像処理装置、画像処理方法、プログラム、および電子機器 Download PDFInfo
- Publication number
- JP2015139082A JP2015139082A JP2014009180A JP2014009180A JP2015139082A JP 2015139082 A JP2015139082 A JP 2015139082A JP 2014009180 A JP2014009180 A JP 2014009180A JP 2014009180 A JP2014009180 A JP 2014009180A JP 2015139082 A JP2015139082 A JP 2015139082A
- Authority
- JP
- Japan
- Prior art keywords
- input image
- tone curve
- image
- luminance signal
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000009825 accumulation Methods 0.000 claims abstract description 129
- 238000007906 compression Methods 0.000 claims abstract description 121
- 230000006835 compression Effects 0.000 claims abstract description 117
- 238000003384 imaging method Methods 0.000 abstract description 49
- 230000006866 deterioration Effects 0.000 abstract description 7
- 238000000034 method Methods 0.000 description 53
- 230000008569 process Effects 0.000 description 29
- 230000006870 function Effects 0.000 description 17
- 238000006243 chemical reaction Methods 0.000 description 16
- 238000003860 storage Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 6
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 5
- 238000005286 illumination Methods 0.000 description 5
- 239000004065 semiconductor Substances 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000012788 optical film Substances 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/68—Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
- H04N9/69—Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
Abstract
【課題】簡単な構成で、画質の劣化を抑制することが可能な階調圧縮を行う。【解決手段】比較部は、入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、入力画像を撮像する際に光を蓄積する長時間蓄積および短時間蓄積のうちの、長時間蓄積を行ったときの飽和レベルを基準とした比較を行う。また、トーンカーブ生成部は、その比較結果に基づいて、入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成する。そして、輝度階調圧縮処理部は、トーンカーブ生成部により生成されたトーンカーブに従って、入力画像の輝度階調の圧縮処理を行う。本技術は、例えば、撮像装置に適用できる。【選択図】図1
Description
本開示は、画像処理装置、画像処理方法、プログラム、および電子機器に関し、特に、簡単な構成で、画質の劣化を抑制することが可能な階調圧縮を行うことができるようにした画像処理装置、画像処理方法、プログラム、および電子機器に関する。
従来、デジタルスチルカメラやデジタルビデオカメラなどの撮像機能を備えた電子機器においては、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの固体撮像素子が使用されている。
このような固体撮像素子を用いる撮像装置は、例えば、光学フィルムを用いる撮像装置と比較してダイナミックレンジが狭くなる。そのため、固体撮像素子を用いる撮像装置では、逆光時の撮像などにおいて、明るい部分の階調が失われる白とび(オーバーエクスポージャ)や、暗い部分の階調が失われる黒つぶれ(アンダーエクスポージャ)などが発生し易かった。これに対し、近年、固体撮像素子の進歩(低ノイズ化)やブラケット露光の合成技術により、光学フィルム写真に匹敵するような広ダイナミックレンジの輝度階調を有するRAW画像信号が得られるようになってきた。
一方、撮像された動画像や静止画像を保存するファイルフォーマット(例えば、JPEG(Joint Photographic Experts Group)、MPEG(Moving Picture Experts Group)など)、一般のCRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などの表示装置、または、プリンタでは、現在も表現可能な輝度階調には制限がある。つまり、表示装置で表現可能な画像のダイナミックレンジが狭い。従って、光学フィルム写真に匹敵するような広ダイナミックレンジの輝度階調を有する画像のRAW画像信号(以下、広ダイナミックレンジ画像と称する)を取得しても、それを保存したり表現したり(表示や印刷等)できなかった。なお、RAW画像信号は、いわゆるイメージャの出力信号である。
そこで、広ダイナミックレンジ画像の輝度階調を圧縮してダイナミックレンジを狭め、表示装置等の従来の機器が表現可能な画像(以下、狭ダイナミックレンジ画像と称する)に変換するダイナミックレンジ圧縮処理技術が必要となる。
例えば、特許文献1には、広ダイナミックレンジ画像の輝度のヒストグラムに基づいて階調再配分を適応的に決定する技術が開示されている。この技術では、広ダイナミックレンジ画像の階調を、ヒストグラム化するなどして、よりダイナミックレンジの狭い表示装置等の階調に合わせて再配分することで狭ダイナミックレンジの画像を生成する。また、ヒストグラムのピーク近辺の輝度値ができるだけ多くの階調に配分される階調変換曲線を決定することによって、重要な被写体のコントラスト低下を抑制する。この技術のように、入力画像の輝度に対して、出力の輝度が一律に定まる手法をグローバルな階調圧縮法と呼ぶ。
しかしながら、グローバルな階調圧縮法では、階調変換曲線の微分値が小さい輝度(階調レンジが削られる輝度)での輝度変化が小さくなり、小振幅のコントラスト感や被写体の立体感(以降、これらをまとめてテクスチャ感、またはディテール感と称することにする)が喪失した見栄えの悪い画像となる問題がある。
そこで、グローバルな階調圧縮法における見栄えの問題を解決した階調圧縮技術として、ローカルな階調圧縮法がある。これは、ダイナミックレンジの大きい画像は、一般には被写体自体のコントラストよりも、むしろコントラストの強い照明によって発生するという知見を用いて、照明の成分のみを階調圧縮してダイナミックレンジを狭める手法である。
この手法は、入力画像の輝度に対して出力の輝度が一律に定まるものではなく、輝度の入出力の関係が画素ごとに変化するため、グローバルな階調圧縮法に対してローカルな階調圧縮法と呼ばれている。
この手法は、入力画像の輝度に対して出力の輝度が一律に定まるものではなく、輝度の入出力の関係が画素ごとに変化するため、グローバルな階調圧縮法に対してローカルな階調圧縮法と呼ばれている。
例えば、特許文献2には、ローカルな階調圧縮法を用いるものとして、画像を一旦グローバルな階調圧縮法により階調圧縮してから照明以外の成分を補償する技術が開示されている。この技術では、一般に照明の分布はエッジ部分以外では空間的になだらかであるという特性を使って、ローパスフィルタで画像を帯域分割し、低周波側の画像成分を照明成分として扱っている。
ところで、上述したような従来の階調圧縮法では、階調変換曲線が適切に設定されない場合には、入力信号レベルの最大値が飽和レベルに張り付くことがあり、ダイナミックレンジが狭くなったような見栄えの悪い画像が出力される。このため、階調圧縮を行うことによって、画質が劣化することになっていた。
本開示は、このような状況に鑑みてなされたものであり、簡単な構成で、画質の劣化を抑制することが可能な階調圧縮を行うことができるようにするものである。
本開示の一側面の画像処理装置は、入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部とを備える。
本開示の一側面の画像処理方法またはプログラムは、入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行うステップを含む。
本開示の一側面の電子機器は、入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部とを有する画像処理装置を備える。
本開示の一側面においては、入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較が行われ、その比較結果に基づいて、入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブが生成され、生成されたトーンカーブに従って、入力画像の輝度階調の圧縮処理が行われる。
本開示の一側面によれば、簡単な構成で、画質の劣化を抑制することが可能な階調圧縮を行うことができる。
以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
図1は、本技術を適用した画像処理装置の一実施の形態の構成例を示すブロック図である。
図1に示すように、画像処理装置11は、輝度信号生成部12、対数変換部13、グローバル輝度生成部14、抽出部15、判定部16、トーンカーブ生成部17、グローバル輝度階調圧縮処理部18、輝度階調圧縮処理部19、および逆対数変換部20を備えて構成される。
輝度信号生成部12には、例えば、図示しない固体撮像素子により撮像された画像が入力され、輝度信号生成部12は、その画像(以下、入力画像と称する)を構成する画像信号から輝度信号Lを生成し、対数変換部13および抽出部15に供給する。
対数変換部13は、輝度信号生成部12から供給される入力画像の輝度信号Lに対して対数変換を行って対数輝度値logLを求め、グローバル輝度生成部14および輝度階調圧縮処理部19に供給する。
グローバル輝度生成部14は、所定の周波数以下の成分を遮断するローパスフィルタ(LPF:Low Pass Filter)であり、対数変換部13から供給される対数輝度値logLにローパスフィルタを施す。これにより、グローバル輝度生成部14は、帯域分割された低周波側の画像成分をグローバル対数輝度値logGLとして生成し、グローバル対数輝度値logGLをグローバル輝度階調圧縮処理部18および輝度階調圧縮処理部19に供給する。
抽出部15は、輝度信号生成部12から供給される入力画像の輝度信号Lから、最小値min、最大値max、および平均値aveを抽出して、それらを判定部16に供給する。
判定部16は、入力画像の輝度信号Lの最大値maxおよび平均値aveのいずれかを用いた判定を行う。例えば、判定部16は、入力画像の輝度信号Lの最大値maxおよび平均値aveのいずれか、または、それらの平均値と、複数の蓄積時間で入力画像を撮像する際に光を蓄積する長時間蓄積の飽和レベルまたは短時間蓄積の飽和レベルを基準とした値とを比較し、その比較結果に基づいた判定を行う。なお、判定部16が行う判定については、図8および図14のフローチャートを参照して後述する。
トーンカーブ生成部17は、判定部16において行われる判定に従って、入力画像の輝度信号を階調圧縮するのに用いるトーンカーブを生成し、グローバル輝度階調圧縮処理部18に供給する。
グローバル輝度階調圧縮処理部18は、トーンカーブ生成部17により生成されたトーンカーブを用いて、グローバル輝度生成部14から供給されるグローバル対数輝度値logGLを階調圧縮する。そして、グローバル輝度階調圧縮処理部18は、階調圧縮を行った結果得られるグローバル対数輝度階調圧縮値logGLTCを、輝度階調圧縮処理部19に供給する。
輝度階調圧縮処理部19は、次の式(1)および式(2)に従い、外部から供給される増幅率Gainを用いて、グローバル輝度階調圧縮処理部18から供給されるグローバル対数輝度階調圧縮値logGLTCを階調圧縮する輝度階調圧縮処理を行う。そして、グローバル輝度階調圧縮処理部18は、輝度階調圧縮処理により求めた対数輝度階調圧縮値logLTCを、逆対数変換部20に供給する。
逆対数変換部20は、輝度階調圧縮処理部19から供給される対数輝度階調圧縮値logLTCを逆対数変換して、輝度階調圧縮値LTCを出力する。
このように構成される画像処理装置11では、判定部16による判定結果に従ってトーンカーブを生成することにより、例えば、入力画像の輝度信号Lの最大値maxが飽和レベルに張り付くようなことを回避することができる。これにより、階調圧縮を行うことによりダイナミックレンジが狭くなったような見栄えの悪い画像となることが回避され、そのような画質の劣化が発生することを防止することができる。
ここで、図2を参照して、従来の輝度階調圧縮に用いられるトーンカーブ(階調変換曲線)について説明する。
一般的に、入力画像の輝度信号Lの最小値minに対応して出力ノイズ値cp_out_noiseが設定され、入力画像の輝度信号Lの最大値maxに対応して出力飽和値cp_out_satが設定される。さらに、入力画像の輝度信号Lの平均値aveに対応して出力中央値cp_out_midが設定されることにより、図2に示すような3点を通過するトーンカーブが生成され、このトーンカーブを用いて輝度階調圧縮が行われる。
例えば、出力ノイズ値cp_out_noiseを高く設定し過ぎるとノイズが強調されてしまうため、出力ノイズ値cp_out_noiseは、ノイズが目立たない程度の低いレベルに設定される。また、出力レンジを有効に使用するために、従来、出力飽和値cp_out_satが飽和レベルに設定される。そして、出力中央値cp_out_midを適切なレベルに設定することで、そのシーンに対してのトーンカーブを生成することができる。
ところで、出力飽和値cp_out_satが飽和レベルに設定されたトーンカーブでは、入力画像の輝度信号Lの最小値minおよび最大値maxが単一シャッタで収まってしまうシーンにおいて、入力画像の輝度信号Lの最大値maxが飽和レベルに張り付くことになる。このため、輝度階調圧縮が行われる結果、ダイナミックレンジが狭くなったように見栄えが悪い画像となる。例えば、図2には、入力画像の輝度信号Lの最小値minおよび最大値maxが長時間蓄積のみに収まっている例が示されている。
ここで、長時間蓄積とは、HDR(High Dynamic Range:ハイダイナミックレンジ)合成を行うために画像を撮像する際における長時間蓄積および短時間蓄積のうちの、長時間蓄積のことである。即ち、HDR合成では、画像を撮像する際に、長時間蓄積および短時間蓄積の異なる時間で光を蓄積し、長時間蓄積による画像と短時間蓄積による画像とを合成(ブレンド)することで、ダイナミックレンジの広い画像が合成される。そして、画像処理装置11では、HDR合成する画像を撮像した際に、入力画像の輝度信号Lの最小値minおよび最大値maxが長時間蓄積のみに収まっている場合、長時間蓄積を基準とした判定が行われる。
そこで、図1の画像処理装置11では、入力画像の輝度信号Lの最小値minおよび最大値maxが単一シャッタに収まるシーンにおいて、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することが可能な輝度階調圧縮が行われる。例えば、画像処理装置11では、入力画像の輝度信号Lの最大値maxが長時間蓄積の飽和レベルを基準とした一定レベル以下である場合、入力画像の輝度信号Lの最大値maxが、その一定レベルに置き換えられてトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの最大値maxと、長時間蓄積の飽和レベルの0.8倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの最大値maxが長時間蓄積の飽和レベルの0.8倍以下であると判定した場合、入力画像の輝度信号Lの最大値maxが、長時間蓄積の0.8倍に置き換えられてトーンカーブが生成される。
図3には、入力画像の輝度信号Lの最大値maxが、長時間蓄積の0.8倍に置き換えられて生成されたトーンカーブが示されている。そして、そのトーンカーブを用いてグローバル輝度階調圧縮処理部18が輝度階調圧縮を行うことで、入力画像の輝度信号Lの最大値maxが飽和レベルに張り付いてしまうことを回避することができる。これにより、入力画像の輝度信号Lの最小値minおよび最大値maxが単一シャッタに収まるシーンであっても、輝度階調圧縮を行った結果、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することができる。
なお、判定部16は、長時間蓄積の飽和レベルを基準とした判定を行えばよく、例えば、長時間蓄積の飽和レベルの一定の比率(上述の例では、0.8倍)を基準値とした判定、または、長時間蓄積の飽和レベルの一定のオフセットを基準値とした判定を行うことができる。また、判定部16は、長時間蓄積の飽和レベルの一定の比率およびオフセットより求めた値を基準値とした判定を行ってもよい。
ところで、図4に示すように、従来の階調圧縮法では、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンでは、出力中央値cp_out_midの出力レベルを持ち上げるようなトーンカーブが階調圧縮に用いられていた。そのため、暗い入力信号を持ち上げるような階調圧縮が行われる結果、ノイズが目立つ画像となっていた。
そこで、図1の画像処理装置11では、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンにおいて、ノイズが目立つ画像となることを回避することが可能な輝度階調圧縮が行われる。例えば、画像処理装置11では、入力画像の輝度信号Lの平均値aveが長時間蓄積の飽和レベルを基準とした一定レベル以下である場合、リニア出力を行うこと、即ち、直線的なトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの平均値aveと、長時間蓄積の飽和レベルの0.2倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの平均値aveが長時間蓄積の飽和レベルの0.2倍以下であると判定した場合、直線的なトーンカーブが生成される。
図5には、入力画像の輝度信号Lの最大値maxと最小値minとを直線的に結ぶように生成されたトーンカーブが示されている。そして、そのトーンカーブを用いてグローバル輝度階調圧縮処理部18が輝度階調圧縮を行うことで、暗い入力信号を持ち上げるような階調圧縮が行われることを回避することができる。これにより、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンであっても、輝度階調圧縮を行った結果、ノイズが目立つ画像となることを回避することができる。
なお、判定部16は、長時間蓄積の飽和レベルを基準とした判定を行えばよく、例えば、長時間蓄積の飽和レベルの一定の比率(上述の例では、0.2倍)を基準値とした判定、または、長時間蓄積の飽和レベルの一定のオフセットを基準値とした判定を行うことができる。また、判定部16は、長時間蓄積の飽和レベルの一定の比率およびオフセットより求めた値を基準値とした判定を行ってもよい。
ところで、図6に示すように、従来の階調圧縮法では、白壁を撮像したような入力画像の一面が白いシーンでは、レンズシェーディングなど、例えば、白壁に発生している明暗のコントラストがトーンカーブにより強調されることになる。このため、輝度階調圧縮が行われる結果、レンズシェーディングなどが強調された画質の劣化した画像となる。
そこで、図1の画像処理装置11では、白壁を撮像したような入力画像の一面が白いシーンにおいて、レンズシェーディングなどが強調された画質の劣化した画像となることを回避することが可能な輝度階調圧縮が行われる。例えば、画像処理装置11では、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分が長時間蓄積の飽和レベルを基準とした一定レベル以下である場合、リニア出力を行うこと、即ち、直線的なトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分と、長時間蓄積の飽和レベルの0.2倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分が長時間蓄積の飽和レベルの0.2倍以下であると判定した場合、直線的なトーンカーブが生成される。
図7には、入力画像の輝度信号Lの最大値maxを長時間蓄積の飽和レベルの一定の比率(例えば、0.8倍)に置き換えた値と最小値minとを直線的に結ぶように生成されたトーンカーブが示されている。そして、そのトーンカーブを用いてグローバル輝度階調圧縮処理部18が輝度階調圧縮を行うことで、レンズシェーディングなどが強調されるような階調圧縮が行われることを回避することができる。これにより、白壁を撮像したような入力画像の一面が白いシーンであっても、輝度階調圧縮を行った結果、画質の劣化した画像となることを回避することができる。
次に、図8のフローチャートを参照して、判定部16により行われる判定について説明する。
例えば、抽出部15から判定部16に、入力画像の輝度信号Lの最小値min、入力画像の輝度信号Lの最大値max、および入力画像の輝度信号Lの平均値aveが供給されると処理が開始される。
ステップS11において、判定部16は、入力画像の輝度信号Lの平均値aveが長時間蓄積の飽和レベルの0.2倍以下であるか否かを判定する。
ステップS11において、判定部16が、入力画像の輝度信号Lの平均値aveが長時間蓄積の飽和レベルの0.2倍以下であると判定した場合、処理はステップS12に進む。ステップS12において、判定部16は、リニア出力を行うことをトーンカーブ生成部17に指示するとともに、入力画像の輝度信号Lの最小値min、最大値max、および平均値aveをトーンカーブ生成部17に供給する。これに従い、トーンカーブ生成部17は、入力画像の輝度信号Lの最大値maxと最小値minとを直線的に結ぶような直線的なトーンカーブを生成し、グローバル輝度階調圧縮処理部18に供給する。これにより、例えば、図5を参照して上述したように、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンに対して輝度階調圧縮を行っても、ノイズが目立つ画像となることを回避することができる。
一方、ステップS11において、判定部16が、入力画像の輝度信号Lの平均値aveが長時間蓄積の飽和レベルの0.2倍以下でない(0.2倍より大である)と判定した場合、処理はステップS13に進む。
ステップS13において、判定部16は、入力画像の輝度信号Lの平均値aveと最大値maxとの差分が長時間蓄積の飽和レベルの0.2倍以下であるか否かを判定する。
ステップS13において、判定部16が、入力画像の輝度信号Lの平均値aveと最大値maxとの差分が長時間蓄積の飽和レベルの0.2倍以下であると判定した場合、処理はステップS12に進み、上述した処理が行われる。これにより、例えば、図7を参照して上述したように、白壁を撮像したような入力画像の一面が白いシーンに対して輝度階調圧縮を行っても、レンズシェーディングが強調されるような画質の劣化した画像となることを回避することができる。
一方、ステップS13において、判定部16が、入力画像の輝度信号Lの平均値aveと最大値maxとの差分が長時間蓄積の飽和レベルの0.2倍以下でない(0.2倍より大である)と判定した場合、処理はステップS14に進む。
ステップS14において、判定部16は、入力画像の輝度信号Lの最大値maxが長時間蓄積の飽和レベルの0.8倍以下であるか否かを判定する。
ステップS14において、判定部16が、入力画像の輝度信号Lの最大値maxが長時間蓄積の飽和レベルの0.8倍以下であると判定した場合、処理はステップS15に進む。ステップS15において、判定部16は、入力画像の輝度信号Lの最大値maxを長時間蓄積の飽和レベルの0.8倍に置き換えてトーンカーブ生成部17に供給するとともに、入力画像の輝度信号Lの最小値minおよび平均値aveをトーンカーブ生成部17に供給する。
ステップS15の処理後、処理はステップS16に進み、トーンカーブ生成部17はトーンカーブを生成する。この場合、トーンカーブ生成部17は、図3を参照して上述したように、入力画像の輝度信号Lの最大値maxが長時間蓄積の0.8倍に置き換えられたトーンカーブを生成する。これにより、入力画像の輝度信号Lの最小値minおよび最大値maxが単一シャッタ(長時間蓄積のみ)に収まるシーンに対して輝度階調圧縮を行っても、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することができる。
一方、ステップS14において、判定部16が、入力画像の輝度信号Lの最大値maxが長時間蓄積の飽和レベルの0.8倍以下ででない(0.8倍より大である)と判定した場合、処理はステップS16に進む。この場合、判定部16は、入力画像の輝度信号Lの最小値min、最大値max、および平均値aveをトーンカーブ生成部17に供給し、トーンカーブ生成部17は、通常の処理と同様にトーンカーブを生成する。
ステップS12またはS16の処理後、処理はステップS17に進む。ステップS17において、グローバル輝度階調圧縮処理部18は、トーンカーブ生成部17により生成されたトーンカーブを用いて、グローバル輝度生成部14から供給されるグローバル対数輝度値logGLの輝度階調の圧縮処理を行い、処理は終了される。
以上のように、画像処理装置11は、長時間蓄積を基準にした判定に従って生成されたトーンカーブを用いることで、簡単な構成で、画質の劣化を抑制することが可能な階調圧縮を行うことができる。
即ち、例えば、画像処理装置11は、入力画像の輝度信号Lの最小値min、最大値max、および平均値aveが、すべて長時間蓄積のみに収まってしまって、実質的にワイドダイナミックレンジでないようなシーンに対して、入力画像の輝度信号Lの最大値maxを長時間蓄積の0.8倍に置き換えて生成されたトーンカーブを用いる。これにより、単独の時間で光を蓄積して撮像した画像(通常の画像)と同程度のダイナミックレンジをもつ画像として階調圧縮することができ、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することができる。
また、例えば、画像処理装置11は、入力画像の輝度信号Lの平均値aveが長時間蓄積の飽和レベルの0.2倍以下となるような、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンに対して、直線的なトーンカーブを用いる。これにより、暗い入力信号を持ち上げるような階調圧縮が行われることを回避することができ、暗いシーンでのノイズを抑制することができる。
さらに、例えば、画像処理装置11は、入力画像の輝度信号Lの最大値maxと輝度信号Lの平均値aveとの差分が長時間蓄積の飽和レベルの0.2倍以下であるような入力画像の一面が白いシーンに対して、直線的なトーンカーブを用いる。これにより、レンズシェーディングなどが強調されるような画質の劣化した画像となることを回避することができる。
ここで、上述した実施の形態では、入力画像の輝度信号Lの最小値minおよび最大値maxが長時間蓄積のみに収まってしまうシーンに対する処理について説明している。これに対し、例えば、入力画像の輝度信号Lの最小値minおよび最大値maxが短時間蓄積のみに収まっているシーンに対しても同様の処理を行うことができる。つまり、画像処理装置11は、長時間蓄積を基準にした判定に従ってトーンカーブを生成するだけでなく、短時間蓄積を基準にした判定に従ってトーンカーブを生成してもよい。
即ち、例えば、入力画像の輝度信号Lの最小値minおよび最大値maxが短時間蓄積のみに収まってしまうシーンにおいても、入力画像の輝度信号Lの最大値maxが飽和レベルに張り付くことになる。このため、図2を参照して上述した例と同様に、輝度階調圧縮が行われる結果、ダイナミックレンジが狭くなったように見栄えが悪い画像となる。
そこで、図1の画像処理装置11では、例えば、入力画像の輝度信号Lの最大値maxが短時間蓄積の飽和レベルを基準とした一定レベル以下である場合、入力画像の輝度信号Lの最大値maxが、その一定レベルに置き換えられてトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの最大値maxと、短時間蓄積の飽和レベルの0.9倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの最大値maxが短時間蓄積の飽和レベルの0.9倍以下であると判定した場合、入力画像の輝度信号Lの最大値maxが、短時間蓄積の0.9倍に置き換えられてトーンカーブが生成される。
図9には、入力画像の輝度信号Lの最大値maxが、短時間蓄積の0.9倍に置き換えられて生成されたトーンカーブが示されている。そして、そのトーンカーブを用いてグローバル輝度階調圧縮処理部18が輝度階調圧縮を行うことで、入力画像の輝度信号Lの最大値maxが飽和レベルに張り付いてしまうことを回避することができる。これにより、入力画像の輝度信号Lの最小値minおよび最大値maxが単一シャッタに収まるシーンであっても、輝度階調圧縮を行った結果、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することができる。
なお、判定部16は、短時間蓄積の飽和レベルを基準とした判定を行えばよく、例えば、短時間蓄積の飽和レベルの一定の比率(上述の例では、0.9倍)を基準値とした判定、または、短時間蓄積の飽和レベルの一定のオフセットを基準値とした判定を行うことができる。また、判定部16は、短時間蓄積の飽和レベルの一定の比率およびオフセットより求めた値を基準値とした判定を行ってもよい。
ところで、図10に示すように、従来の階調圧縮法では、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンでは、出力中央値cp_out_midの出力レベルを持ち上げるようなトーンカーブが階調圧縮に用いられていた。そのため、暗い入力信号を持ち上げるような階調圧縮が行われる結果、ノイズが目立つ画像となっていた。
そこで、図1の画像処理装置11では、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンにおいて、ノイズが目立つ画像となることを回避することが可能な輝度階調圧縮が行われる。例えば、画像処理装置11では、入力画像の輝度信号Lの平均値aveが短時間蓄積の飽和レベルを基準とした一定レベル以下である場合、リニア出力を行うこと、即ち、直線的なトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの平均値aveと、短時間蓄積の飽和レベルの0.1倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの平均値aveが短時間蓄積の飽和レベルの0.1倍以下であると判定した場合、直線的なトーンカーブが生成される。
図11には、入力画像の輝度信号Lの最大値maxと最小値minとを直線的に結ぶように生成されたトーンカーブが示されている。そして、そのトーンカーブを用いてグローバル輝度階調圧縮処理部18が輝度階調圧縮を行うことで、暗い入力信号を持ち上げるような階調圧縮が行われることを回避することができる。これにより、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンであっても、輝度階調圧縮を行った結果、ノイズが目立つ画像となることを回避することができる。
なお、判定部16は、短時間蓄積の飽和レベルを基準とした判定を行えばよく、例えば、短時間蓄積の飽和レベルの一定の比率(上述の例では、0.1倍)を基準値とした判定、または、短時間蓄積の飽和レベルの一定のオフセットを基準値とした判定を行うことができる。また、判定部16は、短時間蓄積の飽和レベルの一定の比率およびオフセットより求めた値を基準値とした判定を行ってもよい。
ところで、図12に示すように、従来の階調圧縮法では、白壁を撮像したような入力画像の一面が白いシーンでは、レンズシェーディングなど、例えば、白壁に発生している明暗のコントラストがトーンカーブにより強調されることになる。このため、輝度階調圧縮が行われる結果、レンズシェーディングなどが強調された画質の劣化した画像となる。
そこで、図1の画像処理装置11では、白壁を撮像したような入力画像の一面が白いシーンにおいて、レンズシェーディングなどが強調された画質の劣化した画像となることを回避することが可能な輝度階調圧縮が行われる。例えば、画像処理装置11では、入力画像の輝度信号Lの最大値maxと輝度信号Lの平均値aveとの差分が短時間蓄積の飽和レベルを基準とした一定レベル以下である場合、リニア出力を行うこと、即ち、直線的なトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分と、短時間蓄積の飽和レベルの0.1倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分が短時間蓄積の飽和レベルの0.1倍以下であると判定した場合、直線的なトーンカーブが生成される。
図13には、入力画像の輝度信号Lの最大値maxを短時間蓄積の飽和レベルの一定の比率(例えば、0.9倍)に置き換えた値と最小値minとを直線的に結ぶように生成されたトーンカーブが示されている。そして、そのトーンカーブを用いてグローバル輝度階調圧縮処理部18が輝度階調圧縮を行うことで、レンズシェーディングなどが強調されるような階調圧縮が行われることを回避することができる。これにより、白壁を撮像したような入力画像の一面が白いシーンであっても、輝度階調圧縮を行った結果、画質の劣化した画像となることを回避することができる。
次に、図14のフローチャートを参照して、判定部16により行われる判定について説明する。
例えば、抽出部15から判定部16に、入力画像の輝度信号Lの最小値min、入力画像の輝度信号Lの最大値max、および入力画像の輝度信号Lの平均値aveが供給されると処理が開始される。
ステップS21において、判定部16は、入力画像の輝度信号Lの平均値aveが短時間蓄積の飽和レベルの0.1倍以下であるか否かを判定する。
ステップS21において、判定部16が、入力画像の輝度信号Lの平均値aveが短時間蓄積の飽和レベルの0.1倍以下であると判定した場合、処理はステップS22に進む。ステップS22において、判定部16は、リニア出力を行うことトーンカーブ生成部17に指示するとともに、入力画像の輝度信号Lの最小値min、最大値max、および平均値aveをトーンカーブ生成部17に供給する。これに従い、トーンカーブ生成部17は、入力画像の輝度信号Lの最大値maxと最小値minとを直線的に結ぶような直線的なトーンカーブを生成し、グローバル輝度階調圧縮処理部18に供給する。これにより、例えば、図9を参照して上述したように、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンに対して輝度階調圧縮を行っても、ノイズが目立つ画像となることを回避することができる。
一方、ステップS21において、判定部16が、入力画像の輝度信号Lの平均値aveが短時間蓄積の飽和レベルの0.1倍以下でない(0.1倍より大である)と判定した場合、処理はステップS23に進む。
ステップS23において、判定部16は、入力画像の輝度信号Lの平均値aveと最大値maxとの差分が短時間蓄積の飽和レベルの0.1倍以下であるか否かを判定する。
ステップS23において、判定部16が、入力画像の輝度信号Lの平均値aveと最大値maxとの差分が短時間蓄積の飽和レベルの0.1倍以下であると判定した場合、処理はステップS22に進み、上述した処理が行われる。これにより、例えば、図7を参照して上述したように、白壁を撮像したような入力画像の一面が白いシーンに対して輝度階調圧縮を行っても、レンズシェーディングが強調されるような画質の劣化した画像となることを回避することができる。
一方、ステップS23において、判定部16が、入力画像の輝度信号Lの平均値aveと最大値maxとの差分が短時間蓄積の飽和レベルの0.1倍以下でない(0.1倍より大である)と判定した場合、処理はステップS24に進む。
ステップS24において、判定部16は、入力画像の輝度信号Lの最大値maxが短時間蓄積の飽和レベルの0.9倍以下であるか否かを判定する。
ステップS24において、判定部16が、入力画像の輝度信号Lの最大値maxが短時間蓄積の飽和レベルの0.9倍以下であると判定した場合、処理はステップS25に進む。ステップS25において、判定部16は、入力画像の輝度信号Lの最大値maxを短時間蓄積の飽和レベルの0.9倍に置き換えてトーンカーブ生成部17に供給するとともに、入力画像の輝度信号Lの最小値minおよび平均値aveをトーンカーブ生成部17に供給する。
ステップS25の処理後、処理はステップS26に進み、トーンカーブ生成部17はトーンカーブを生成する。この場合、トーンカーブ生成部17は、図9を参照して上述したように、入力画像の輝度信号Lの最大値maxが短時間蓄積の0.9倍に置き換えられたトーンカーブを生成する。これにより、入力画像の輝度信号Lの最小値minおよび最大値maxが単一シャッタ(短時間蓄積のみ)に収まるシーンに対して輝度階調圧縮を行っても、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することができる。
一方、ステップS24において、判定部16が、入力画像の輝度信号Lの最大値maxが短時間蓄積の飽和レベルの0.9倍以下ででない(0.9倍より大である)と判定した場合、処理はステップS26に進む。この場合、判定部16は、入力画像の輝度信号Lの最小値min、最大値max、および平均値aveをトーンカーブ生成部17に供給し、トーンカーブ生成部17は、通常の処理と同様にトーンカーブを生成する。
ステップS22またはS26の処理後、処理はステップS27に進む。ステップS27において、グローバル輝度階調圧縮処理部18は、トーンカーブ生成部17により生成されたトーンカーブを用いて、グローバル輝度生成部14から供給されるグローバル対数輝度値logGLの輝度階調の圧縮処理を行い、処理は終了される。
以上のように、画像処理装置11では、短時間蓄積を基準にした判定に従って生成されたトーンカーブを用いることで、簡単な構成で、画質の劣化を抑制することが可能な階調圧縮を行うことができる。
即ち、例えば、画像処理装置11は、入力画像の輝度信号Lの最小値min、最大値max、および平均値aveが、すべて短時間蓄積のみに収まってしまって、実質的にワイドダイナミックレンジでないようなシーンに対して、入力画像の輝度信号Lの最大値maxを短時間蓄積の0.9倍に置き換えて生成されたトーンカーブを用いる。これにより、単独の時間で光を蓄積して撮像した画像(通常の画像)と同程度のダイナミックレンジをもつ画像として階調圧縮することができ、ダイナミックレンジが狭くなったような見栄えの悪い画像となることを回避することができる。
また、例えば、画像処理装置11は、入力画像の輝度信号Lの平均値aveが短時間蓄積の飽和レベルの0.1倍以下となるような、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンに対して、直線的なトーンカーブを用いる。これにより、暗い入力信号を持ち上げるような階調圧縮が行われることを回避することができ、暗いシーンでのノイズを抑制することができる。
さらに、例えば、画像処理装置11は、入力画像の輝度信号Lの最大値maxと輝度信号Lの平均値aveとの差分が短時間蓄積の飽和レベルの0.1倍以下であるような入力画像の一面が白いシーンに対して、直線的なトーンカーブを用いる。これにより、レンズシェーディングなどが強調されるような画質の劣化した画像となることを回避することができる。
なお、上述した実施の形態では、例えば、入力画像の輝度信号Lの平均値aveが一定レベルより低くなる暗いシーンに対し、トーンカーブ生成部17が、入力画像の輝度信号Lの最大値maxと最小値minとを直線的に結ぶようなトーンカーブを生成する例について説明したが、完全な直線としなくてもよい。
例えば、図15に示すように、画像処理装置11では、入力画像の輝度信号Lの平均値aveが一定レベルよりさらに低くなる暗いシーンにおいて、ノイズを抑制する処理が行われる。例えば、入力画像の輝度信号Lの平均値aveが一定レベル以下である場合、入力画像の輝度信号Lの平均値ave以下では、出力ノイズ値cp_out_noiseが出力されるとともに、入力画像の輝度信号Lの平均値ave以上において入力画像の輝度信号Lの最大値maxに向かって直線的なトーンカーブが生成される。即ち、入力画像の輝度信号Lの平均値ave以下において出力が抑え込まれたトーンカーブが生成される。
具体的には、画像処理装置11において、判定部16は、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分と、長時間蓄積の飽和レベルの0.1倍とを比較する。そして、判定部16が、入力画像の輝度信号Lの最大値maxおよび輝度信号Lの平均値aveの差分が長時間蓄積の飽和レベルの0.1倍以下であると判定した場合、入力画像の輝度信号Lの平均値ave以下において出力が抑え込まれたトーンカーブが生成される。これにより、例えば、図5を参照して説明した直線的なトーンカーブを用いる場合よりも、より暗いシーンにおいてノイズを抑制した画像を出力することができる。
なお、判定部16は、長時間蓄積の飽和レベルを基準とした判定を行えばよく、例えば、長時間蓄積の飽和レベルの一定の比率(上述の例では、0.1倍)を基準値とした判定、または、長時間蓄積の飽和レベルの一定のオフセットを基準値とした判定を行うことができる。また、判定部16は、長時間蓄積の飽和レベルの一定の比率およびオフセットより求めた値を基準値とした判定を行ってもよい。
なお、上述したような実施の形態の画像処理装置11は、例えば、デジタルスチルカメラやデジタルビデオカメラなどの撮像システム、撮像機能を備えた携帯電話機、または、撮像機能を備えた他の機器といった各種の電子機器に適用することができる。
図16は、画像処理装置11が適用される電子機器である撮像装置の構成例を示すブロック図である。
図16に示すように、撮像装置101は、モジュール102およびカメラ信号処理部103を備えて構成されており、太陽光や蛍光灯などの光源の下にある被写体Zを撮像し、可視光カラー画像を出力する。
モジュール102は、撮像レンズ111、赤外線カットフィルタ112、色フィルタ群113、画素アレイ部114、カラム処理部115、および駆動制御部116を備えて構成される。
撮像レンズ111は、画像情報を取り込むために、被写体Zからの光を撮像装置101の内部に導光して結像させる。色フィルタ群113は、例えば、赤色(R)、緑色(G)、および青色(B)の色フィルタがベイヤ配列で配置されており、それぞれの色を透過する。画素アレイ部114には、複数の画素がアレイ状に配置されており、それぞれの画素において被写体Zからの光を受光し、その光量に応じたレベルの画素信号を出力する。
カラム処理部115は、画素アレイ部114から出力される画素信号に対してCDS(Correlated Double Sampling)処理やAD(Analog Digital)変換処理などを施す。駆動制御部116は、例えば、カメラ信号処理部103が備えるカメラ制御部122の制御に従って、画素アレイ部114およびカラム処理部115を駆動する。そして、カラム処理部115から出力された撮像データは、カメラ信号処理部103が備える撮像信号処理部121に供給される。
カメラ信号処理部103は、撮像信号処理部121およびカメラ制御部122を備えて構成され、撮像信号処理部121は、信号分離部131、色信号処理部132、輝度信号処理部133、およびエンコーダ部134を備えて構成される。
信号分離部131は、色フィルタ群113において原色フィルタ以外のものが使用されているときにカラム処理部115から供給されるデジタル撮像信号を、赤色信号R、緑色信号G、および青色信号Bの原色信号に分離する原色分離機能を備える。色信号処理部132は、信号分離部131によって分離された赤色信号R、緑色信号G、および青色信号Bに基づいて、色信号Cに関しての信号処理を行う。
輝度信号処理部133は、信号分離部131によって分離された赤色信号R、緑色信号G、および青色信号Bに基づいて、輝度信号Yに関しての信号処理を行う。即ち、輝度信号処理部133は、図1の画像処理装置11の機能を備え、上述したような輝度階調圧縮処理を行う。エンコーダ部134は、色信号処理部132から出力される色信号C、および、輝度信号処理部133から出力される輝度信号Yに基づいて、映像信号VDを生成して出力する。
カメラ制御部122は、撮像装置101の全体を制御する主制御部としての機能を有し、ROM(Read Only Memory)141,RAM(Random Access Memory)142、通信I/F(Interface)143、メモリ読出部144、マイクロプロセッサ145を備えて構成される。
ROM141は、読み出し専用の記憶部であり、カメラ制御部122の制御プログラムなどが格納されている。また、カメラ制御部122によって、各種の制御パルスをオン/オフするタイミングを設定するためのプログラムが格納されている。
RAM142は、随時書き込みおよび読み出しが可能であるとともに揮発性の記憶部の一例であり、カメラ制御部122が各種処理を行なうためのデータなどが格納される。ここで、揮発性の記憶部とは、装置の電源がオフされた場合には、記憶内容を消滅してしまう形態の記憶部を意味する。一方、"不揮発性の記憶部"とは、装置のメイン電源がオフされた場合でも、記憶内容を保持し続ける形態の記憶部を意味する。記憶内容を保持し続けることができるものであればよく、半導体製のメモリ素子自体が不揮発性を有するものに限らず、バックアップ電源を備えることで、揮発性のメモリ素子を"不揮発性"を呈するように構成するものであってもよい。
通信I/F143は、インターネットなどの通信網との間の通信データの受け渡しを仲介する。
メモリ読出部144は、メモリカード104から読み出したデータをRAM142に格納(インストール)する。
メモリカード104は、カメラ制御部122に挿脱可能に構成され、例えば、マイクロプロセッサ145にソフトウエア処理をさせるためのプログラムデータを登録するなどのために利用される。また、メモリカード104は、輝度信号処理部133からの輝度系信号に基づく測光データDLの収束範囲や露光制御処理(電子シャッタ制御を含む)のための各種の制御パルスのオン/オフタイミングなど、様々な設定値などのデータを登録するなどのために利用される。
マイクロプロセッサ145は、コンピュータが行う演算および制御の機能を超小型の集積回路に集約されたCPU(Central Processing Unit)を代表例とする電子計算機の中枢をなす。
なお、撮像装置101におけるカメラ制御部122としては、マイクロプロセッサ145には、露光制御用のプログラムも組み込まれて、露光条件を制御する露光条件制御部としても機能するようになっている。ここで、電子計算機の中枢をなすマイクロプロセッサ145を、露光条件を制御する露光条件制御部として機能させるための露光制御用のプログラムとしては、輝度信号処理部133からの輝度系信号に基づく測光データDLの計算(たとえば所定サイズおよび所定位置の測光エリアの平均値の計算)と、その計算結果に基づく輝度レベル判定(中間レベルよりも高いか低いか)などのためのものを含む。
なお、このような撮像装置101は、駆動制御部116およびカラム処理部115を、画素アレイ部114と別体にしてモジュール状のもので示しているが、これらが画素アレイ部114と同一の半導体基板上に一体的に形成されたワンチップものを利用してもよい。
また、図16では、画素アレイ部114や駆動制御部116、カラム処理部115、カメラ信号処理部103の他に、撮像レンズ111、あるいは赤外線カットフィルタ112などの光学系をも含む状態で、撮像装置101を示しており、この態様は、これらを纏めてパッケージングされた撮像機能を有するモジュール状の形態とする場合に好適である。
ここで、固体撮像装置におけるモジュールとの関係においては、図示のように、画素アレイ部114(撮像部)と、AD変換機能や差分(CDS)処理機能を具備したカラム処理部115などの画素アレイ部114側と密接に関連した信号処理部(カラム処理部115の後段のカメラ信号処理部は除く)が纏めてパッケージングされた状態で撮像機能を有するモジュール状の形態で固体撮像装置を提供するようにし、そのモジュール状の形態で提供された固体撮像装置の後段に、残りの信号処理部であるカメラ信号処理部103を設けて撮像装置101の全体を構成するようにしてもよい。
または、図示を割愛するが、画素アレイ部114と撮像レンズ111などの光学系とが纏めてパッケージングされた状態で撮像機能を有するモジュール状の形態で固体撮像装置を提供するようにし、そのモジュール状の形態で提供された固体撮像装置に加えて、カメラ信号処理部103をもモジュール内に設けて、撮像装置101の全体を構成するようにしてもよい。
また、固体撮像装置におけるモジュールの形態として、カメラ信号処理部103を含めてもよく、この場合には、事実上、固体撮像装置と撮像装置101とが同一のものと見なすこともできる。
このような撮像装置101は、「撮像」を行なうための、たとえば、カメラや撮像機能を有する携帯機器として提供される。なお、「撮像」は、通常のカメラ撮影時の像の撮り込みだけではなく、広義の意味として、指紋検出なども含むものである。このような構成の撮像装置101においては、前述した図1の画像処理装置11の全ての機能を包含して構成されており、画像処理装置11の基本的な構成および動作と同様とすることができる。
なお、上述のフローチャートを参照して説明した各処理は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。また、プログラムは、1のCPUにより処理されるものであっても良いし、複数のCPUによって分散処理されるものであっても良い。
また、上述した一連の処理(情報処理方法)は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラムが記録されたプログラム記録媒体からインストールされる。
図17は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
コンピュータにおいて、CPU201,ROM202,RAM203は、バス204により相互に接続されている。バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホンなどよりなる入力部206、ディスプレイ、スピーカなどよりなる出力部207、ハードディスクや不揮発性のメモリなどよりなる記憶部208、ネットワークインタフェースなどよりなる通信部209、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア211を駆動するドライブ210が接続されている。
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU201)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア211に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
なお、本技術は以下のような構成も取ることができる。
(1)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、
前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、
前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部と
を備える画像処理装置。
(2)
前記比較部は、前記入力画像の輝度信号の最大値と、前記所定の時間蓄積の飽和レベルを基準とした第1の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の最大値が前記第1の基準値以下である場合、前記入力画像の輝度信号の最大値を前記第1の基準値に置き換えて前記トーンカーブを生成する
上記(1)に記載の画像処理装置。
(3)
前記比較部は、前記入力画像の輝度信号の平均値と、前記所定の時間蓄積の飽和レベルを基準とした第2の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の平均値が前記第2の基準値以下である場合、直線的な前記トーンカーブを生成する
上記(1)または(2)に記載の画像処理装置。
(4)
前記比較部は、前記入力画像の輝度信号の最大値および平均値の差分と、前記所定の時間蓄積の飽和レベルを基準とした第3の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の最大値および平均値の差分が前記第3の基準値以下という結果である場合、直線的な前記トーンカーブを生成する
上記(1)から(3)までのいずれかに記載の画像処理装置。
(5)
前記比較部は、前記入力画像を撮像する際に光が長時間蓄積および短時間蓄積により蓄積されるとき、前記長時間蓄積を行ったときの飽和レベルを基準とした比較を行う
上記(1)から(4)までのいずれかに記載の画像処理装置。
(6)
前記比較部は、前記入力画像を撮像する際に光が長時間蓄積および短時間蓄積により蓄積されるとき、前記短時間蓄積を行ったときの飽和レベルを基準とした比較を行う
上記(1)から(4)までのいずれかに記載の画像処理装置。
(7)
前記比較部は、前記入力画像の輝度信号の平均値と、前記所定の時間蓄積の飽和レベルを基準とした第4の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の平均値が前記第4の基準値以下という結果である場合、前記入力画像の輝度信号の平均値以下の出力を抑え込むような前記トーンカーブを生成する
上記(1)から(6)までのいずれかに記載の画像処理装置。
(8)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、
比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、
生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う
ステップを含む画像処理方法。
(9)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、
比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、
生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う
ステップを含む画像処理をコンピュータに実行させるプログラム。
(10)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、
前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、
前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部と
を有する画像処理装置を備える電子機器。
(1)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、
前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、
前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部と
を備える画像処理装置。
(2)
前記比較部は、前記入力画像の輝度信号の最大値と、前記所定の時間蓄積の飽和レベルを基準とした第1の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の最大値が前記第1の基準値以下である場合、前記入力画像の輝度信号の最大値を前記第1の基準値に置き換えて前記トーンカーブを生成する
上記(1)に記載の画像処理装置。
(3)
前記比較部は、前記入力画像の輝度信号の平均値と、前記所定の時間蓄積の飽和レベルを基準とした第2の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の平均値が前記第2の基準値以下である場合、直線的な前記トーンカーブを生成する
上記(1)または(2)に記載の画像処理装置。
(4)
前記比較部は、前記入力画像の輝度信号の最大値および平均値の差分と、前記所定の時間蓄積の飽和レベルを基準とした第3の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の最大値および平均値の差分が前記第3の基準値以下という結果である場合、直線的な前記トーンカーブを生成する
上記(1)から(3)までのいずれかに記載の画像処理装置。
(5)
前記比較部は、前記入力画像を撮像する際に光が長時間蓄積および短時間蓄積により蓄積されるとき、前記長時間蓄積を行ったときの飽和レベルを基準とした比較を行う
上記(1)から(4)までのいずれかに記載の画像処理装置。
(6)
前記比較部は、前記入力画像を撮像する際に光が長時間蓄積および短時間蓄積により蓄積されるとき、前記短時間蓄積を行ったときの飽和レベルを基準とした比較を行う
上記(1)から(4)までのいずれかに記載の画像処理装置。
(7)
前記比較部は、前記入力画像の輝度信号の平均値と、前記所定の時間蓄積の飽和レベルを基準とした第4の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の平均値が前記第4の基準値以下という結果である場合、前記入力画像の輝度信号の平均値以下の出力を抑え込むような前記トーンカーブを生成する
上記(1)から(6)までのいずれかに記載の画像処理装置。
(8)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、
比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、
生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う
ステップを含む画像処理方法。
(9)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、
比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、
生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う
ステップを含む画像処理をコンピュータに実行させるプログラム。
(10)
入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、
前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、
前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部と
を有する画像処理装置を備える電子機器。
なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
11 画像処理装置, 12 輝度信号生成部, 13 対数変換部, 14 グローバル輝度生成部, 15 抽出部, 16 判定部, 17 トーンカーブ生成部, 18 グローバル輝度階調圧縮処理部, 19 輝度階調圧縮処理部, 20 逆対数変換部
Claims (10)
- 入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、
前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、
前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部と
を備える画像処理装置。 - 前記比較部は、前記入力画像の輝度信号の最大値と、前記所定の時間蓄積の飽和レベルを基準とした第1の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の最大値が前記第1の基準値以下である場合、前記入力画像の輝度信号の最大値を前記第1の基準値に置き換えて前記トーンカーブを生成する
請求項1に記載の画像処理装置。 - 前記比較部は、前記入力画像の輝度信号の平均値と、前記所定の時間蓄積の飽和レベルを基準とした第2の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の平均値が前記第2の基準値以下である場合、直線的な前記トーンカーブを生成する
請求項1に記載の画像処理装置。 - 前記比較部は、前記入力画像の輝度信号の最大値および平均値の差分と、前記所定の時間蓄積の飽和レベルを基準とした第3の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の最大値および平均値の差分が前記第3の基準値以下という結果である場合、直線的な前記トーンカーブを生成する
請求項1に記載の画像処理装置。 - 前記比較部は、前記入力画像を撮像する際に光が長時間蓄積および短時間蓄積により蓄積されるとき、前記長時間蓄積を行ったときの飽和レベルを基準とした比較を行う
請求項1に記載の画像処理装置。 - 前記比較部は、前記入力画像を撮像する際に光が長時間蓄積および短時間蓄積により蓄積されるとき、前記短時間蓄積を行ったときの飽和レベルを基準とした比較を行う
請求項1に記載の画像処理装置。 - 前記比較部は、前記入力画像の輝度信号の平均値と、前記所定の時間蓄積の飽和レベルを基準とした第4の基準値とを比較し、
前記トーンカーブ生成部は、前記入力画像の輝度信号の平均値が前記第4の基準値以下という結果である場合、前記入力画像の輝度信号の平均値以下の出力を抑え込むような前記トーンカーブを生成する
請求項1に記載の画像処理装置。 - 入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、
比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、
生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う
ステップを含む画像処理方法。 - 入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行い、
比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成し、
生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う
ステップを含む画像処理をコンピュータに実行させるプログラム。 - 入力画像の輝度信号の最大値および平均値のいずれかを少なくとも用いて、前記入力画像を撮像する際に光を蓄積する複数の時間のうちの、所定の時間蓄積を行ったときの飽和レベルを基準とした比較を行う比較部と、
前記比較部による比較結果に基づいて、前記入力画像の輝度階調の圧縮処理を行うのに用いるトーンカーブを生成するトーンカーブ生成部と、
前記トーンカーブ生成部により生成された前記トーンカーブに従って、前記入力画像の輝度階調の圧縮処理を行う輝度階調圧縮処理部と
を有する画像処理装置を備える電子機器。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014009180A JP2015139082A (ja) | 2014-01-22 | 2014-01-22 | 画像処理装置、画像処理方法、プログラム、および電子機器 |
US14/597,753 US9432646B2 (en) | 2014-01-22 | 2015-01-15 | Image processing apparatus, image processing method, program and electronic apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014009180A JP2015139082A (ja) | 2014-01-22 | 2014-01-22 | 画像処理装置、画像処理方法、プログラム、および電子機器 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015139082A true JP2015139082A (ja) | 2015-07-30 |
Family
ID=53545933
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014009180A Pending JP2015139082A (ja) | 2014-01-22 | 2014-01-22 | 画像処理装置、画像処理方法、プログラム、および電子機器 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9432646B2 (ja) |
JP (1) | JP2015139082A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10535289B2 (en) | 2016-01-18 | 2020-01-14 | Sharp Kabushiki Kaisha | Display device, display method, recording medium, and television receiver |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20170004756A (ko) * | 2015-07-03 | 2017-01-11 | 삼성전자주식회사 | 카메라 운영 방법 및 이를 구현하는 전자 장치 |
CN105635525A (zh) * | 2015-12-23 | 2016-06-01 | 努比亚技术有限公司 | 一种图像细节处理方法和装置 |
KR102594201B1 (ko) * | 2016-09-22 | 2023-10-27 | 삼성디스플레이 주식회사 | 영상 처리 방법 및 이를 수행하는 표시 장치 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3959769B2 (ja) | 1996-04-12 | 2007-08-15 | ソニー株式会社 | ビデオカメラ装置、映像信号処理装置および映像信号の階調変換方法 |
JP4214457B2 (ja) | 2003-01-09 | 2009-01-28 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
US8254674B2 (en) * | 2004-10-28 | 2012-08-28 | DigitalOptics Corporation Europe Limited | Analyzing partial face regions for red-eye detection in acquired digital images |
US7525579B2 (en) * | 2004-12-27 | 2009-04-28 | Konica Minolta Holdings, Inc. | Image sensing apparatus and image processing method for use therein |
JP4264553B2 (ja) * | 2006-06-12 | 2009-05-20 | ソニー株式会社 | 画像処理装置、撮像装置、画像出力装置、これらの装置における方法およびプログラム |
-
2014
- 2014-01-22 JP JP2014009180A patent/JP2015139082A/ja active Pending
-
2015
- 2015-01-15 US US14/597,753 patent/US9432646B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10535289B2 (en) | 2016-01-18 | 2020-01-14 | Sharp Kabushiki Kaisha | Display device, display method, recording medium, and television receiver |
Also Published As
Publication number | Publication date |
---|---|
US20150208046A1 (en) | 2015-07-23 |
US9432646B2 (en) | 2016-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111418201B (zh) | 一种拍摄方法及设备 | |
RU2542928C2 (ru) | Система и способ для обработки данных изображения с использованием процессора сигнала изображения, имеющего логику окончательной обработки | |
US8208039B2 (en) | Image processing apparatus and computer-readable medium | |
US8363131B2 (en) | Apparatus and method for local contrast enhanced tone mapping | |
US9681026B2 (en) | System and method for lens shading compensation | |
US8169500B2 (en) | Dynamic range compression apparatus, dynamic range compression method, computer-readable recording medium, integrated circuit, and imaging apparatus | |
US9426437B2 (en) | Image processor performing noise reduction processing, imaging apparatus equipped with the same, and image processing method for performing noise reduction processing | |
JP2010009583A5 (ja) | ||
JP2011003048A (ja) | 画像処理装置、及び画像処理プログラム | |
US11798143B2 (en) | Image processing apparatus and control method thereof | |
JP4544308B2 (ja) | 画像処理装置、撮像装置、方法およびプログラム | |
WO2015190320A1 (ja) | 撮像装置、及び、撮像方法 | |
JP2015139082A (ja) | 画像処理装置、画像処理方法、プログラム、および電子機器 | |
US8736739B2 (en) | Imaging apparatus, imaging control method, and program | |
US8693799B2 (en) | Image processing apparatus for emphasizing details of an image and related apparatus and methods | |
JP2006080942A (ja) | 画像処理装置、画像処理プログラム、画像処理方法及び撮像装置 | |
JP2009200743A (ja) | 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置 | |
JPWO2015146471A1 (ja) | 撮影装置 | |
JP2002288650A (ja) | 画像処理装置及びデジタルカメラ、画像処理方法、記録媒体 | |
KR101959147B1 (ko) | 왜곡없이 저조도 영상 프레임을 복원하는 단말 장치 및 방법과 이를 수행하는 기록 매체 | |
JP2013225724A (ja) | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 | |
JP2012124652A (ja) | 撮像装置及び画像処理方法 | |
JP2008172566A (ja) | 撮像装置及び撮像方法 | |
JP2010268134A (ja) | 撮像装置 | |
JP4954658B2 (ja) | 画像処理装置 |