JP6469448B2 - 画像処理装置、撮像装置、画像処理方法、および記録媒体 - Google Patents

画像処理装置、撮像装置、画像処理方法、および記録媒体 Download PDF

Info

Publication number
JP6469448B2
JP6469448B2 JP2015000814A JP2015000814A JP6469448B2 JP 6469448 B2 JP6469448 B2 JP 6469448B2 JP 2015000814 A JP2015000814 A JP 2015000814A JP 2015000814 A JP2015000814 A JP 2015000814A JP 6469448 B2 JP6469448 B2 JP 6469448B2
Authority
JP
Japan
Prior art keywords
histogram
gradation
distribution
gradations
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015000814A
Other languages
English (en)
Other versions
JP2016126592A (ja
JP2016126592A5 (ja
Inventor
達哉 木野
達哉 木野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2015000814A priority Critical patent/JP6469448B2/ja
Priority to US14/971,446 priority patent/US9892497B2/en
Priority to CN201610004076.0A priority patent/CN105763767B/zh
Publication of JP2016126592A publication Critical patent/JP2016126592A/ja
Publication of JP2016126592A5 publication Critical patent/JP2016126592A5/ja
Application granted granted Critical
Publication of JP6469448B2 publication Critical patent/JP6469448B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • H04N1/4074Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original using histograms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明は、画像のヒストグラムから累積ヒストグラムを生成し、ヒストグラム平滑化を行う階調変換処理を行う画像処理装置、撮像装置、画像処理方法、およびプログラムを記録した記録媒体に関する。
従来より、画像のヒストグラムから累積ヒストグラムを生成し、ヒストグラム平滑化を行う階調変換処理が知られている。カメラ等の撮像装置で階調変換処理を行うとすると、処理を簡易化するために、縮小画像を用い入力画像の階調数よりも少ない階調、例えば、8階調や16階調でヒストグラムを作成し、平滑化を行う。
しかし、階調数を少なくすると、シーンチェンジや露出補正などで露出が変化した際、ヒストグラムが急激に変化してしまう。特に、ヒストグラムが特定の階調に集中するような平坦な被写体では、ヒストグラム平滑化後の画像の明るさが、明るくなったり暗くなったりして、画像ムラとして現われてしまう。
この点について、図16および図17を用いて説明する。図16は、横軸に縮小画像の画素値をとり、この例では、階調を8分割している。例えば、画素値が0〜4095の場合には、0〜512の範囲を階調“0”とし、512〜1024の範囲を階調“1”とし、1024〜1536の範囲を階調“3”としている。以後、等間隔で、階調“4”〜“8”に分割する。図16の例において、全面が一様な輝度の単一平面の被写体の場合には、図16(a)に示すように、ヒストグラムがある特定の階調に集中する。ヒストグラム生成では、画素値がある特定の範囲に入っていれば、その階調の頻値としてカウントする。すなわち、図16(a)に示す例では、前述したように階調を0〜7までの8階調に分けており、この例では、階調n=3に集中している。
つまり、図16(b)に示すように、画素値が、V1であっても、V2であっても、V3であっても、すべて同じようにその階調(n=3)の頻値に1が加算される。そのため、全面が一様な輝度の単一平面の被写体において、さらに露出変化があり、画素値がV1からV4まで徐々に変化するような場合、ヒストグラムが急激に切り替わってしまう。すなわち、画素値V1からV3までの露出変化に対しては、ヒストグラムが変化しないにもかかわらず(図17(a)〜(c))、画素値V3からV4になる露出変化では、ヒストグラムが急激に切り替わってしまう(図17(c)(d))。このため、ヒストグラムを用いたヒストグラム平滑化でも急激な変化が発生する結果となっていた。
そこで、特許文献1では、ヒストグラム生成時の頻値カウント時に、該当する階調内での位置に応じた重みを算出し、隣接する階調にも分配することにより、階調数が少なくても露出変化時にヒストグラムの変化を滑らかにすることが提案されている。
具体的には、画素値と、画素値が含まれる階調内での相対的な位置に基づき、図18(a)〜(c)に示すような重みをつけ、前後の階調に振り分けて頻値をカウントしていく。なお、図18(a)に示す曲線W10は該当する階調位置(n)の頻値に対する重みを示し、図18(b)に示す曲線W11は該当する階調位置(n)の隣接位置(n−1)の頻値に対する重みを示し、図18(c)に示す曲線W12は該当する階調位置(n)の隣接位置(n+1)の頻値に対する重みを示す。
このような重みをつけることにより、図19(a)〜(d)に示すように、露出変化に伴い、ヒストグラムも変化し、滑らかな変化となる。なお、図19(a)は縮小画像の画素値V1の場合のヒストグラムを、図19(b)は縮小画像の画素値V2の場合のヒストグラムを、図19(c)は画素値V3の場合のヒストグラムを、図19(d)は縮小画像の画素値V4の場合のヒストグラムを示す。
特許第5486791号公報
前述の特許文献1に提案の階調変換処理を行うことにより、図19(a)〜(d)に示すように、ヒストグラム自体の急激な変化は改善される。しかし、ヒストグラム平滑化の結果を安定的に変化させるには、不十分であり、条件によって、ヒストグラム平滑化の画像の明るさが変化する場合がある。
この点について、図19(a’)〜(d’)を用いて説明する。図19(a’)〜(d’)に示す各グラフは、図19(a)〜(d)のヒストグラムを用いた累積ヒストグラム、及び累積ヒストグラムを入出力特性としてヒストグラム平滑化をした際の様子を示している。図19(a’)〜(d’)の横軸に示す入力データ(両矢印)は、露出変化があっても幅が変わらず徐々に暗くなっていくのに対し、縦軸に示すヒストグラム平滑化後の出力データ(両矢印)は、露出変化によって、幅が大きく変化することがわかる。つまり、特許文献1に示される階調変換処理では、ヒストグラム平滑化を用いた局所階調変換処理を行う際に、安定した結果を得ることはできない。
本発明は、このような事情を鑑みてなされたものであり、ヒストグラム平滑化の結果を安定的に変化させることのできる画像処理装置、撮像装置、画像処理方法、および記録媒体を提供することを目的とする。
上記目的を達成するため第1の発明に係る画像処理装置は、入力された画像データの輝度分布として、上記画像データを構成する画素値が属する所定の階調数の各々の階調に対して、1未満の固定値を加算してヒストグラムを生成するヒストグラム生成部と、上記ヒストグラムの生成にあたって、上記1未満の固定値との差分値を分配量として近隣の階調に分配する分配処理部と、上記ヒストグラム生成部により得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成部と、上記累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理部と、を有し、上記ヒストグラム生成部と上記分配処理部における上記1未満の固定値は、上記所定の階調数に対し、固定にする。
第2の発明に係る撮像装置は、上記第1の発明において、さらに被写界を撮像して画像データを出力する撮像部と、を有し、上記第1の発明に記載の画像処理装置を具備する。
第3の発明に係る撮像装置は、上記第2の発明において、上記分配処理部は、上記撮像部の撮像動作が静止画撮影である場合には、動画撮影である場合と比べて上記分配量を固定にする階調数を同じ、もしくは少なくする。
第4の発明に係る撮像装置は、上記第1の発明において、さらに画像内のエリアを取得する検出部と、上記画像データの局所領域が、上記検出部において検出された上記エリア内にあるかどうかを判定するエリア判定部と、を備え、上記ヒストグラム生成部は、上記画像データの局所領域毎のヒストグラムを生成し、上記分配処理部は、上記エリア判定部において上記局所領域が上記エリア内と判定された場合には、上記分配量を固定にする階調数を変更する。
第5の発明に係る撮像装置は、上記第2ないし上記第4の発明において、上記分配処理部は、固定の分配量は、その対象となる階調数を用いて、W1=1/(stabN+1)とするように分配する。
第6の発明に係る撮像装置は、上記第2ないし上記第4の発明において、上記分配処理部において、分配量を固定にする階調に隣接する階調に対しては、画素値により変動する分配量を分配する。
第7の発明に係る撮像装置は、上記第5または上記第6の発明において、上記分配処理部において、画素値により変動する分配量の最大量は、固定の分配量及び固定の分配を行う階調数を用いて、 W23=1−(W1×stabN) ここで、W23:分配重み係数 W1:分配重み係数 stabN:階調数 とする。
第8の発明に係る画像処理方法は、入力された画像データの輝度分布として、上記画像データを構成する画素値が属する所定の階調数の各々の階調に対して、1未満の固定値を加算してヒストグラムを生成するヒストグラム生成ステップと、上記ヒストグラムの生成にあたって、上記1未満の固定値と1との差分値を分配量として近隣の階調に分配する分配処理ステップと、上記ヒストグラム生成ステップにより得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成ステップと、上記累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理ステップと、を有し、上記ヒストグラム生成ステップと上記分配処理ステップにおける上記1未満の固定値は、上記所定の階調数に対し、固定にする。
第9の発明に係る記録媒体は、入力された画像データの輝度分布として、上記画像データを構成値する画素値が属する所定の階調数の各々の階調に対して、1未満の固定値を加算してヒストグラムを生成するヒストグラム生成ステップと、上記ヒストグラムの生成にあたって、上記1未満の固定値と1との差分値を分配量として近隣の階調に分配する分配処理ステップと、上記ヒストグラム生成ステップにより得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成ステップと、上記累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理ステップと、を有し、上記ヒストグラム生成ステップと上記分配処理ステップにおける上記1未満の固定値は、上記所定の階調数に対し、固定にすることをコンピュータに実行させるプログラムを記憶した。
本発明によれば、ヒストグラム平滑化の結果を安定的に変化させることのできる画像処理装置、撮像装置、画像処理方法、および記録媒体を提供することができる。
本発明の一実施形態に係るカメラの主として電気的構成を示すブロック図である。 本発明の一実施形態に係るカメラのヒストグラム平滑化の動作を示すフローチャートである。 本発明の一実施形態に係るカメラの撮像素子からの輝度画像から縮小画像を生成するためのブロックを示す図である。 本発明の一実施形態に係るカメラの縮小画像からヒストグラムを生成するための範囲を示す図である。 本発明の一実施形態に係るカメラにおいて、縮小画像から生成したヒストグラムと、累積ヒストグラムを示すグラフである。 本発明の一実施形態に係るカメラにおいて、近傍の累積ヒストグラムを用いたコントラスト補正も行う例を示すグラフである。 本発明の一実施形態に係るカメラのヒストグラム生成の概念的動作を示すフローチャートである。 本発明の一実施形態に係るカメラにおいて、ヒストグラム生成を説明する図であり、(a)はヒストグラム生成に用いる画像データの画素位置を示す図であり、(b)は階調位置を算出するためのテーブルであり、(c)は階調位置を算出するための画素値データの構造を示す図である。 本発明の一実施形態に係るカメラのヒストグラム生成の動作を示すフローチャートである。 本発明の一実施形態に係るカメラにおいて、傾き安定化階調数(stabN)が奇数の場合と偶数の場合において、傾き安定階調と隣接階調の位置関係を示す図である。 本発明の一実施形態に係るカメラの傾き安定化階調及び隣接階調の頻値設定の動作を示すフローチャートである。 本発明の一実施形態に係るカメラにおいて、各階調における分配重みの関係を示す図である。 本発明の一実施形態に係るカメラにおいて、ヒストグラム平滑化の効果を説明する図である。 本発明の一実施形態に係るカメラのヒストグラム生成の動作を示すフローチャートの第1の変形例である。 本発明の一実施形態に係るカメラのヒストグラム生成の動作を示すフローチャートの第2の変形例である。 従来の平滑化処理において、階調位置の設定を説明する図である。 従来の平滑化処理において、画素値と階調位置の関係を説明する図である。 従来の平滑化処理において、画素値を隣接階調に振り分け方を説明する図である。 従来の平滑化処理において、画素値に対するヒストグラムと累積ヒストグラムを示すグラフである。
以下、本発明の一実施形態としてデジタルカメラに適用した例について説明する。このデジタルカメラは、撮像部を有し、この撮像部によって被写体界を撮像して画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタチャンスを決定する。レリーズ操作時には、画像データが記録媒体に記録される。記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
図1は、本発明の一実施形態に係わるカメラの主として電気的構成を示すブロック図である。このカメラは、カメラ本体100と、これに脱着することのできる交換式レンズ200とから構成される。
交換式レンズ200は、撮影レンズ201、絞り203、ドライバ205、マイクロコンピュータ207、フラッシュメモリ209を有しており、後述するカメラ本体100との間にインターフェース(以後、I/Fと称す)999を有する。
撮影レンズ201は、被写体像を形成するための光学レンズであって、単焦点レンズまたはズームレンズを有している。この撮影レンズ201の光軸の後方には、絞り203が配置されており、絞り203は口径が可変であり、撮影レンズ201の通過した被写体光束を制限する。
また、撮影レンズ201はドライバ205によって光軸方向に移動することができ、マイクロコンピュータ207からの制御信号に基づいて、撮影レンズ201のピント位置が制御され、ズームレンズの場合には、焦点距離も制御される。このドライバ205は、絞り204の口径の制御も行う。
ドライバ205に接続されたマイクロコンピュータ207は、I/F999およびフラッシュメモリ209に接続されている。マイクロコンピュータ207は、フラッシュメモリ209に記憶されているプログラムに従って動作し、後述するカメラ本体100内のマイクロコンピュータ121と通信を行い、マイクロコンピュータ121からの制御信号に基づいて交換式レンズ200の制御を行う。
フラッシュメモリ209には、前述したプログラムの他、交換式レンズ200の光学的特性や調整値等の種々の情報が記憶されている。I/F999は、交換式レンズ200内のマイクロコンピュータ207とカメラ本体100内のマイクロコンピュータ121の相互間の通信を行うためのインターフェースである。
カメラ本体100内であって、撮影レンズ201の光軸上には、メカニカルシャッタ101が配置されている。このメカニカルシャッタ101は、被写体光束の通過時間を制御し、公知のレンズシャッタまたはフォーカルプレーンシャッタが採用される。このメカニカルシャッタ101の後方であって、撮影レンズ201によって被写体像が形成される位置には、撮像素子102が配置されている。
撮像素子102は、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されており、各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。各画素の前面には、ベイヤー配列のカラーフィルタが配置されている。ベイヤー配列は、水平方向にR画素とG(Gr)画素が交互に配置されたラインと、G(Gb)画素とB画素が交互に配置されたラインを有し、さらにその3つのラインを垂直方向にも交互に配置することで構成されている。
撮像素子102はアナログ処理部103に接続されており、このアナログ処理部103は、撮像素子102から読み出した光電変換信号(アナログ画像信号)に対し、リセットノイズ等を低減した上で波形整形を行い、適切な輝度になるようにゲインアップを行う。ISO感度の調整は、このアナログ処理部103においてアナログ画像信号のゲイン(増幅率)を調整することにより制御する。
アナログ処理部103はA/D変換部104に接続されており、このA/D変換部104は、アナログ画像信号をアナログ―デジタル変換し、デジタル画像信号(以後、画像データという)をバス109に出力する。
バス109は、カメラ本体100の内部で読み出され若しくは生成された各種データをカメラ本体100の内部に転送するための転送路である。バス109は、前述のA/D変換部104の他、画像処理部111、AE処理部113、AF処理部115、JPEG処理部117、マイクロコンピュータ121、SDRAM(Synchronous Dynamic Random Access Memory)127、メモリインターフェース(以後、メモリI/Fという)129、液晶(以後、LCDという)ドライバ133が接続されている。
バス109に接続された画像処理部111は、ホワイトバランス補正部(以後、WB補正部という)111a、同時化処理部111b、色再現処理部111d、階調補正処理部111c、ノイズリダクション処理部(以後、NR処理部という)111de含み、SDRAM127に一時記憶された画像データを読出し、この画像データに対して種々の画像処理を施す。
WB補正部111aは、画像データに対して、ホワイトバランス補正を行う。ホワイトバランス補正は、さまざまな色温度の光源のもとで、白色を正確に白く映し出すように補正する。晴天、曇天、日陰、電球、蛍光灯などの光源モード、若しくはカメラ側で自動的にホワイトバランス補正量を算出するオートホワイトバランスモードをユーザが設定するので、この設定されたモードに応じて、画像データに対してホワイトバランス補正を行う。WB補正部111aは、ユーザの指定したホワイトバランス設定に基づき、WBゲインを取得もしくは検出し、画像データに対してゲイン乗算をすることにより、ホワイトバランス補正を行う。
同時化処理部111bは、ベイヤー配列の下で取得された画像データに対して、1画素あたりR、G、Bの情報からなる画像データへ同時化処理を行う。すなわち、同時化処理では、RGBのベイヤー構造の画像データを、RGBの三面データに変換するデモザイク処理を行う。
階調補正処理部111cは、モニタγをベースに好ましい階調となるよう全体のトーンを補正するγ補正処理を行うとともに、局所的なコントラスト補正処理を行う。この局所コントラスト補正処理には様々な方法があるが、その代表的なものとして、ヒストグラム平滑化(ヒストグラム等化)がある。ヒストグラム平滑化については、図2ないし図6を用いて後述する。また、階調補正処理部111cは、累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理部として機能する(例えば、後述する図2のS9、S11参照)。
色再現処理部111dは、画像の色味を整える処理であり、ガンマ補正処理、および画像の色味を変化させる色再現処理を行う。NR処理部111eは、高周波を低減するフィルタを用いたり、またコアリング処理等により、画像データのノイズを低減する処理を行う。
画像処理部111は、必要に応じて、各部111a〜111dを選択し各処理を行い、画像処理を施された画像データは、バス109を介してSDRAM127に一時記憶される。画像処理部111は、ASIC(Application Specific Integrated Circuit)やDSP(Digital Signal Processor)等、種々のハードウエアで構成されるが、その一部または全部をマイクロコンピュータ121によってソフトウエアによって処理するようにしてもよい。
AE処理部113は、被写体輝度を測定し、バス109を介してマイクロコンピュータ121に出力する。被写体輝度測定のために専用の測光センサを設けても良いが、本実施形態においては、撮像素子102の出力に基づく画像データを用いて被写体輝度を算出する。AF処理部115は、画像データから高周波成分の信号を抽出し、積算処理により合焦評価値を取得し、バス109を介してマイクロコンピュータ121に出力する。本実施形態においては、いわゆるコントラスト法によって撮影レンズ201のピント合わせを行う。
JPEG処理部117は、画像データの記録媒体131への記録時に、SDRAM127から画像データを読み出し、この読み出した画像データをJPEG圧縮方式に従って圧縮し、この圧縮した画像データをSDRAM127に一旦記憶する。マイクロコンピュータ121は、SDRAM127に一時記憶されたJPEG画像データに対して、JPEGファイルを構成するために必要なJPEGヘッダを付加してJPEGファイルを作成し、この作成したJPEGファイルをメモリI/F129を介して記録媒体131に記録する。
また、JPEG処理部117は、画像再生表示用にJPEG画像データの伸張も行う。伸張にあたっては、記録媒体131に記録されているJPEGファイルを読み出し、JPEG処理部117において伸張処理を施した上で、伸張した画像データをSDRAM127に一時記憶する。なお、本実施形態においては、画像圧縮方式としては、JPEG圧縮方式を採用するが、圧縮方式はこれに限らずTIFF、MPEG、H.264等、他の圧縮方式でも勿論かまわない。
マイクロコンピュータ121は、このカメラ全体の制御部としての機能を果たし、後述するフラッシュメモリ125に記憶されているプログラムに従って、カメラ本体100と交換レンズ200内の各部を制御することにより、カメラ全体の各種シーケンスを総括的に制御する。
マイクロコンピュータ121は、入力された画像データの輝度分布として、所定の階調数の各々の階調に対する頻値をカウントしヒストグラムを生成するヒストグラム生成部として機能する(例えば、後述する図2のS5、図7、図9参照)。また、マイクロコンピュータ121は、ヒストグラムのカウント値を近隣の階調に分配する分配処理部として機能する(例えば、後述する図9のS53〜S69参照)。
また、マイクロコンピュータ121は、ヒストグラム生成部により得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成部として機能する(例えば、後述する図2のS7参照)。また、マイクロコンピュータ121は、上述の分配処理部として機能する場合には、カウント値を近隣の階調に分配する際、所定の階調数に対し、分配量を固定にする(例えば、後述する図11のS79〜S83参照)。
マイクロコンピュータ121は、分配処理部として機能する場合には、撮像部の撮像動作が静止画撮影である場合には、動画撮影である場合と比べて上記分配量を固定にする階調数を同じ、もしくは少なくする(例えば、後述する図14のS44a、S44b参照)。また、画像処理部111は、画像内のエリアを取得する検出部としての機能を果たし、画像データの局所領域が、検出部において検出されたエリア内にあるかどうかを判定するエリア判定部として機能し、ヒストグラム生成部は、画像データの局所領域毎のヒストグラムを生成し、分配処理部は、エリア判定部において局所領域がエリア内と判定された場合には、分配量を固定にする階調数を変更する(例えば、後述する図15のS48a〜S48c参照)。
マイクロコンピュータ121は、分配処理部として機能する場合には、固定の分配量は、その分配対象となる階調数を用いて、W1=1/(stabN+1)とするように分配する(例えば、図9のS45、(3)式参照)。また、分配処理部において、分配量を固定にする階調に隣接する階調に対しては、固定にする階調範囲に対する入力画像の画素値を元に、分配量を変動させ、それにより得られた分配量を分配する。また、分配処理部において、画素値により変動する分配量の最大量は、固定の分配量及び固定の分配を行う階調数を用いて、W23=1−(W1×stabN)とする(例えば、図11のS85参照)。
マイクロコンピュータ121には、前述のI/F999以外に、操作部123およびフラッシュメモリ125が接続されている。操作部123は、電源釦、レリーズ釦、動画釦、再生釦、メニュー釦、十字釦、OK釦等、各種入力釦や各種入力キー等の操作部材を含み、これらの操作部材の操作状態を検知し、検知結果をマクロコンピュータ121に出力する。マイクロコンピュータ121は、操作部123からの操作部材の検知結果に基づいて、ユーザの操作に応じた各種シーケンスを実行する。
フラッシュメモリ125は、電気的に書き換えることのできる不揮発性メモリであり、マイクロコンピュータ121の各種シーケンスを実行するためのプログラムを記憶している。マイクロコンピュータ121は、前述したように、このプログラムに基づいて当該デジタルカメラの制御を行う。また、フラッシュメモリ125は、ヒストグラム生成(図9参照)の際に使用する初期設定値、(Xh,Yh)、N、Offset、傾き安定化階調数(stabN)、傾き安定化階調重み係数(W1)、隣接階調分配重みテーブル(Wtable)等の調整値等を記憶している。
SDRAM127は、画像データ等の一時記憶用の電気的に書き換えることのできる揮発性メモリである。このSDRAM127は、A/D変換部104から出力された画像データや、画像処理部111やJPEG処理部117等において処理された画像データを一時記憶する。
メモリI/F129は、記録媒体131に接続されており、画像データや画像データに添付されたヘッダ等のデータを、記録媒体131に書き込みおよび読出しの制御を行う。記録媒体131は、カメラ本体に脱着することができるメモリであるが、これに限らず、ハードディスク等、カメラ本体に内蔵のメモリであってもよい。
LCDドライバ133は、LCD135に接続されており、SDRAM127や記録媒体131から読み出され、JPEG処理部117によって伸張された画像データに基づいて画像をLCD135において表示させる。LCD135は、カメラ本体100の背面等に配置されたLCDパネルを含み、画像表示を行う。画像表示としては、撮影直後、記録される画像データを短時間だけ表示するレックビュー表示、記録媒体131に記録された静止画や動画の画像ファイルの再生表示、およびライブビュー表示等の動画表示が含まれる。なお、圧縮されている画像データを表示する場合には、前述したように、JPEG処理部117によって伸張処理を施した後に表示する。また、表示部としては、LCDに限らず、有機EL等、他の表示パネルを採用しても勿論かまわない。
次に、図2ないし図6を用いて、ヒストグラム平滑化を用いた局所コントラスト補正処理について説明する。図2は、ヒストグラム平滑化による局所コントラスト補正の動作を示すフローチャートである。このフロー(図7、図9、図11、および図14に示すフローチャートも同様)は、マイクロコンピュータ121が、フラッシュメモリ125に記憶されたプログラムに従ってカメラ内の各部を制御することにより実行する。
図2に示すヒストグラム平滑化のフローに入ると、まず輝度画像生成を行う(S1)。ここでは、撮像素子102から出力されるRGB画像データから輝度画像を生成する。輝度画像は、下記(1)式にて輝度データを算出してもよく、またRGB画像の内のG画像を輝度画像として用いてよく、R、G、Bの各画素値の内の最大値を輝度画像としてもよい。
Y=0.299×R+0.587×G+0.114×B ・・・(1)
輝度画像を生成すると、次に、縮小画像の生成を行う(S3)。ここでは、ステップS1において生成した輝度画像の内、所定の領域を加算平均して縮小画像の生成を行う。
図3および図4に、輝度画像から縮小画像を生成する例を示す。この例では、撮像素子102から、横4000画素、縦3000画素の輝度画像が出力され、この輝度画像から、横160画素、縦120画素の領域(ブロック)内をそれぞれ加算平均し、縮小画像を生成する。以降、160×120の縮小画像の1ブロックを縮小画像の1画素として表現する。なお、これらの数値は、例示であり、適宜変更してもよい。
この縮小画像の生成は、撮像素子102から画像データを読み出す際に、またはアナログ処理部103が、ブロック毎に加算平均を行って縮小画像を出力するようにしてもよい。またA/D変換部105によってデジタル化された画像データを画像処理部111またはマイクロコンピュータ121がブロック毎に加算平均を行って縮小画像を生成するようにしてもよい。
縮小画像を生成すると、次に、ヒストグラム生成を行う(S5)。ここでは、マイクロコンピュータ121が、縮小画像の画素毎にヒストグラムを生成する。対象とする画素P1(図4のグレーで示す画素)についてヒストグラムを生成する際には、その周囲を含めた所定の範囲R1(図4の破線の領域)での画素値を用いてヒストグラムを生成する。このようにして得られたヒストグラムの例を図5(a)に示す。この例では、縮小画像の画素値を8つの値の範囲のいずれに入るかを判定し、8階調のヒストグラムを生成している。なお、ヒストグラム生成の詳細は、図7および図8を用いて後述する。
ヒストグラムの生成を行うと、次に、累積ヒストグラムを生成する(S7)。ここでは、マイクロコンピュータ121が、ステップS5で生成したヒストグラムに基づいて累積ヒストグラムを生成する。累積ヒストグラムは、ヒストグラムの各階調の頻値を累積加算したときに得られる特性である。図5(b)に、図5(a)の例に対応する累積ヒストグラムを示す。
累積ヒストグラムを生成すると、次に、コントラスト補正を行う(S9)。ここでは、階調補正処理部111cが、ステップS7で生成した累積ヒストグラムに基づいてコントラスト補正を行う。縮小画像の1画素は、図4に示すように、縮小前の輝度画像での所定の領域の1つに対応している。そこで、図4での所定の領域に含まれる画素値のバラツキが、図5(b)の横軸に示す両矢印の範囲だとすると、この累積ヒストグラムの特性を入出力の特性曲線として変換することで、図5(b)の縦軸に示す両矢印の範囲に補正される。
つまり、コントラストが補正され、この図5に示す例では、コントラストが強調される。すなわち、横軸(画素値)の矢印の範囲に対して、縦軸(補正後の画素値)の矢印の範囲が大きいことにより、コントラスト強調がなされている。したがって、図5(a)に示すヒストグラムに応じたコントラスト補正ができる。この処理を、所定の領域毎(局所領域毎)に行うことにより、局所コントラスト補正処理となる。
局所コントラスト補正処理を行うにあたって、実際には、領域の切り替わり境界での連続性を考慮し、図6に示すような近傍の累積ヒストグラムを用いたコントラスト補正も行う。補間処理を行った結果をコントラスト補正結果とすることで、連続性を保っている。
ステップS9において、コントラスト補正を行うと、次に、ゲイン生成・乗算処理を行う(S11)。ここでは、階調補正処理部111cが、ステップS9でのコントラスト補正の結果を用いて、ゲイン生成・乗算処理を行う。具体的には、補正強度を調節するため、ステップS9で得られたコントラスト補正後の画像と、図3に示すコントラスト補正前の輝度画像との比を算出することにより、画素毎のゲイン値を算出する。そして、この算出されたゲイン値に補正強度調整値を加味したものを、入力データであるRGB画像に乗算することで、最終的な局所コントラスト補正画像を生成する。
このように、本実施形態におけるヒストグラム平滑化による局所コントラスト補正処理では、ヒストグラムから累積ヒストグラムを生成し、この累積ヒストグラムを用いてコントラスト補正画像を生成し、これに基づいてゲインを算出し、この算出されたゲインを撮像素子からの画像データに乗算処理している。
次に、ステップS5(図2参照)のヒストグラム生成の動作について説明する。まず、図7に示すフローチャートを用いて、本実施形態におけるヒストグラム生成の基本的動作について説明する。
図7に示すフローに入ると、まず、初期設定値の読み込みを行う(S21)。ここでは、初期設定値の読込みとして、ヒストグラムを生成する領域設定値(Xh,Yh)や、作成するヒストグラムの階調数設定値(N)を読み込む。階調数設定値(N)は、図5(a)に示した例では、N=8である。
初期設定値の読み込みを行うと、次に、ヒストグラム生成領域データを取得する(S23)。ヒストグラム領域設定値は、対象画素を中心としたXh×Yhの領域である。ここでは、説明の都合上、(Xh,Yh)=(5,5)、N=8が設定されているものとする。領域を読み込むと、読み込んだ領域設定値を用いて、ヒストグラム生成に用いる画像データを取得する。図8(a)には、取得した5×5画素のデータを示す。
ヒストグラム生成領域データを取得すると、次に、初期化する(S25)。ここでは、初期化として、画素をスキャンする際のカウンタ(i,j)を(0,0)に、各画素の階調位置を表す変数(n)、及びヒストグラムとなる配列P(N)“0”に初期化する。
初期化すると、ステップS27〜S39において、設定された領域におけるヒストグラムを生成する。まず、(i,j)位置の画素値を取得する(S27)。ここでは、(i,j)位置の画素値を取得するが、最初に処理する場合には、図8(a)に示す画像データのうち、(0,0)位置に対応する画素値を取得する。
(i,j)位置の画素を取得すると、次に、階調位置(n)の算出を行う(S29)。ここでは、ステップS27において取得した画素値を用いて、N階調(例示では8階調)に分割したとき、どの階調位置に属するかを判別し、階調位置(n)とする。具体的には、取得した画素値が12bitデータ(4096階調)場合には、判別手段としては、図8(b)に示すようなテーブルに基づいて、階調位置(n)を算出してもよい。また、図8(c)に示すように、画素値の上位3bitを読み込み、その値を階調位置(n)としてもよい。
階調位置(n)を算出すると、次に、ヒストグラム頻値の加算を行う(S31)。ここでは、ステップS29において算出した階調位置(n)に対応するヒストグラム配列P(n)に頻値として1を加算する(P(n)=P(n)+1)。ヒストグラム頻値の加算を行うと、画素位置のカウンタiをインクリメントする(S33)。
カウンタiをインクリメントすると、i≧Xhか否かを判定する(S35)。ここでは、カウンタiがXh以上か、図8(a)に示す例では、iが“5”以上か否かを比較する。iがXh以上であれば、領域内の横方向の端に達したことであることから、ステップS37に進んで縦方向に1画素分移動し、Xh未満であれば、ステップS33でインクリメントしたiに応じた(i,j)位置の画素値を、ステップS27に戻って取得する。
ステップS35における判定の結果、i≧Xhの場合には、カウンタjをインクリメントし、カウンタiを0にリセットする(S37)。続いて、j≧Yhか否かを判定する(S39)。ここでは、カウンタjがYh以上か、図8(a)に示す例では、jが“5”以上か否かを比較する。比較の結果、Yh未満であれば、ステップS37でインクリメントしたjに応じた(i,j)位置の画素値を、ステップS27に戻って取得する。一方、jがYh以上であれば、領域内の縦方向の端に達し、領域内の全画素についてスキャンを行い、ヒストグラム頻値を算出したことから、この時点でのヒストグラム配列P(n)が、図8(a)のヒストグラム領域におけるヒストグラム結果となる。
次に、図9に示すフローチャートを用いて、本実施形態におけるヒストグラム生成の動作について説明する。なお、図7のフローチャートと共通する部分については、簡略化して説明する。
図9に示すフローに入ると、初期設定値の読み込みを行う(S41)。ここでは、初期設定値として、ヒストグラムを生成する領域設定値(Xh,Yh)、階調数設定値(N)に加えて、画素値に対するオフセット量(offset)を読み込む。このオフセット量は、階調幅の半分の値に相当する。例えば、画素値の精度が12bit精度で階調数設定値(N)が8の場合、下記(2)式のような値となる。
offset=(4096/8)/2=256 ・・・(2)
初期設定値を読み込むと、次に、傾き安定化階調数(stabN)を読み込む(S43)。ここでは、フラッシュメモリ125に記憶された傾き安定化階調数(stabN)を読み込む。傾き安定化階調数(stabN)は、露出変化が発生した場合でも、累積ヒストグラムの傾きを一定に保つ階調数の設定である。傾き安定化階調数が大きいと安定するものの、局所コントラスト効果が弱まる傾向となる。
傾き安定化階調数を読み込むと、次に、傾き安定化階調重み係数(W1)を算出する(S45)。この重み係数は、傾き安定化階調数(stabN)に応じて決定され、下記(3)式より算出される。なお、重み係数は、傾き安定化階調数に応じて算出した値を、フラッシュメモリ125に記憶しておき、読み出すようにしてもよい。
W1=1/(stabN+1) ・・・(3)
傾き安定化階調重み係数を算出すると、次に、隣接階調分配重みテーブル(Wtable)を読み込む(S47)。隣接階調は、傾き安定化階調に隣接する階調であり、その階調へ頻値を加算する際に、この分配重みテーブルを用いる。隣接階調分配重みテーブルは、フラッシュメモリ125に記憶されているので、これを読み出す。
隣接階調分配重みテーブルの読み込みを行うと、次に、ヒストグラム生成領域データを取得する(S49)。ここでは、ステップS23(図7参照)と同様に、ステップS41において読み込んだ(Xh,Yh)、Nを用いて、ヒストグラム生成領域の画像データを取得する。
ステップS49において、ヒストグラム生成領域のデータを取得すると、次に、初期化を行う(S51)。ここでは、ステップS25(図7参照)と同様に、i=0,j=0,P(N)=0とする。
続いて、(i,j)位置の画素値(m)を取得する(S53)。ここでは、ステップS27(図7参照)と同様に、(i,j)位置の画素値を取得するが、最初に処理する場合には、(0,0)位置に対応する画素値を取得する。
(i,j)位置の画素値(m)を取得すると、次に、安定化階調数(stabN)=偶数か否かを判定する(S55)。ここでは、ステップS43において読み込んだ安定化階調数(stabN)に基づいて判定する。
ステップS55に判定の結果、安定化階調数(stabN)が偶数の場合には、m=m−offsetを算出する(S57)。ここでは、画素値(m)に対しオフセット量(offset)を減算する。オフセット量を減算する目的は、図10(a)に示すように、傾き安定化階調数(stabN)が奇数の場合には、画素値に対応する階調位置(n)内で分配重みを算出するが、そこへのオフセットを減算することで、安定化階調数が偶数の場合でも、奇数の場合と同様に処理を行うことができる。
すなわち、図10(a)はstabNが奇数の場合を示す。この図において、横軸は画素値であり、画素値TH2〜TH3が傾き安定化階調(stabN=1)S1の範囲であり、画素値TH1〜TH2とTH3〜TH4が隣接階調の領域N1、N2である。この傾き安定化階調(stabN)S1である画素値TH2〜TH3の範囲が隣接階調への分配重みを算出する画素値範囲R10である。
図10(b)はstabNが偶数の場合を示す。この図においても、横軸は画素値であり、画素値TH11〜TH12が傾き安定化階調(stabN=2)S2、画素値TH12〜TH13が傾き安定化階調(stabN=2)S3の範囲であり、画素値TH10〜TH11とTH13〜TH14が隣接階調の領域N3、N4である。傾き安定化階調の範囲S2、S3にオフセット量を減算することにより、この傾き安定化階調(stabN)S1である画素値TH2〜TH3の範囲R10と同じ範囲で、隣接階調への分配重みを算出することができる。すなわち、安定化階調数stabNが偶数の場合であっても、奇数の場合と同様の分配重みで処理することができる。
ステップS57において、m=m−offsetを算出すると、またはステップS55における判定の結果、stabNが偶数でなかった場合には、次に、階調位置(n)の階調範囲の算出を行う(S59)。ここでは、画素値(m)に基づいて階調位置(n)を算出する際に使用する画素値の範囲、すなわち、画素値の下限値(n_low)と上限値(n_high)を算出する。
ステップS59において、階調位置の階調範囲を算出すると、次に、傾き安定化階調及び隣接階調の頻値設定を行う(S61)。図11を用いて詳述する。
続いて、ステップS33と同様に、画素位置のカウンタiをインクリメントする(S63)。カウンタiをインクリメントすると、ステップS35と同様に、i≧Xhか否かを判定する(S65)。Xh未満であれば、ステップS63でインクリメントしたiに応じた(i、j)位置の画素値を、ステップS53に戻って取得する。ステップS65における判定の結果、i≧Xhの場合には、ステップS37と同様に、カウンタjをインクリメントし、カウンタiを0にリセットする(S67)。
続いて、ステップS39と同様に、j≧Yhか否かを判定する(S69)。判定の結果、Yh未満であれば、ステップS67でインクリメントしたjに応じた(i,j)位置の画素値を、ステップS53に戻って取得する。一方、jがYh以上であれば、領域内の全画素についてスキャンを行い、ヒストグラム頻値を算出したことから、この時点でのヒストグラム配列P(n)がヒストグラム領域におけるヒストグラム結果となる。
次に、図11に示すフローチャートを用いて、ステップS61(図9参照)の傾き安定化階調及び隣接階調の頻値設定の詳細について説明する。
図11のフローに入ると、まず、初期化を行う(S71)。ここでは、初期化として、k=0、n’=0を行う。
初期化を行うと、次に、傾き安定化階調数(stabN)が偶数か否かを判定する(S73)。ステップS43(図9参照)において、傾き安定化階調数(stabN)を読み込んでいるので、この読み込まれた傾き安定化階調数に基づいて判定する。
ステップS73における判定の結果、傾き安定化階調数(stabN)が偶数であった場合には、n’=stabN/2を算出する(S75)。一方、ステップS73における判定の結果、傾き安定化階調数(stabN)が奇数であった場合には、n’=(stabN−1)/2を算出する(S77)。この変数n’は、画素値(m)に基づいて算出した階調位置(n)を中心にして、傾き安定化階調数(stabN)に基づく傾き安定化階調を設定する際に使用する。
ステップS75、S77において変数n’を算出すると、次に、k<stabNか否かを判定する(S79)。ここでは、ステップS43において読み込んだ傾き安定化階調数(stabN)と、変数kを比較する。変数kは、ステップS71においてk=0に初期化されており、後述するステップS83においてインクリメントされる。
ステップS79における判定の結果、傾き安定化階調数(stabN)が変数kよりも大きい場合には、傾き安定化階調へのヒストグラム頻値を加算する(S81)。ここでは、傾き安定化階調へのヒストグラム頻値として、階調位置(n+n’−k)に重み係数(W1)を加算する。
ステップS81において、傾き安定化階調にヒスグラム頻値の加算をすると、次に、変数kをインクリメントする(S83)。変数kをインクリメントすると、ステップS79に戻り、前述の判定を行う。
ステップS79〜S83においては、変数kが傾き安定化階調数(stabN)より大きくなるまで、変数kの値を増加させている。
例えば、傾き安定化階調数(stabN)が“3”であり、階調位置(n)が“5”となる場合には、重み係数(W1)は(3)式より“0.25”、n’=1となっている。その際は、階調位置“5”を中心に3つの階調が傾き安定化階調となるため、階調位置“4”、“5”、“6”に対するヒストグラム頻値として、それぞれ“0.25”を加算する。
また、傾き安定化階調数(stabN)が“2”であり、階調位置(n)が“5”となる場合には、重み係数(W1)は(3)式より“0.33”、n’=1となっている。その際は、階調位置“5”を中心に2つの階調が傾き安定化階調となるため、階調位置“5”、“6”に対するヒストグラム頻値としてそれぞれ“0.33”を加算する。
ステップS79における判定の結果、変数kが傾き安定化階調数(stabN)より大きくなると、分配重み係数(W2、3)の算出を行う(S85)。分配重み係数(W2、W3)は、後段の隣接階調へのヒストグラム頻値加算の際に用いるもので、ステップS47において読み込んだ分配重みテーブル(Wtable)と、ステップS53からS59において読み込み又は算出した画素値(m)、階調位置(n)と、下限値(n_low)と上限値(n_high)を用いて算出する。
図12(a)に分配重みテーブル(Wtable)の例を示す。重みテーブルの上限は、重み係数(W1)と傾き安定化階調数(stabN)を用いて、“1−W1×stabN”とし、重み係数W2は分配重みテーブル(Wtable)から得られる縦軸に示すWeightをそのまま使用する。また、重み係数W3は分配重みテーブル(Wtable)から得られる縦軸に示すWeightと、テーブルの上限値を用いて、下記(4)式を用いて算出する。
W3=(1−(W1×stabN))−Weight ・・・(4)
分配重みテーブル(Wtable)から得られた重み係数(W2)は、傾き安定化階調に対して、画素値の小さい側に接する隣接階調への重み係数であり、一方、重み係数(W3)は、傾き安定化階調に対して、画素値の大きい側に接する隣接階調への重み係数となる。
ステップS85において、分配重み係数(W2、W3)の算出を行うと、次に、隣接階調へのヒストグラム頻値加算を行う(S87)。ここでは、ステップS85において算出された分配重み係数(W2、W3)を用いて、隣接階調へのヒストグラム頻値を下記(5)(6)式により行う。すなわち、階調位置(n+n’−stabN)に重み係数(W2)を加算し、階調位置(n+n’+1)に重み係数(W3)を加算する。
P(n+n’−stabN)=P(n+n’−stabN)+W2 ・・・(5)
P(n+n’+1)=P(n+n’+1)+W3 ・・・(6)
結果として、すべての重み係数の総和(W1×stabN+W2+W3)は“1”となる。図12(b)に示すように、傾き安定化階調S2、S3に対して重み係数(W1)が加算され、隣接階調N3、N4に対しては、重み係数(W2)(W3)が加算されたことになる。なお、図12(b)において、R10は、隣接階調への分配重みを算出する画素値範囲を示し、Roffは、ステップS41に読み込んだ値であり、階調幅の半分の値に相当する。
次に、図13を用いて、本実施形態におけるヒストグラムと累積ヒスグラムについて説明する。図13において左側の(a)(b)(c)(d)は、図16(b)に示す全面が一様な輝度の単一平面の被写体において露出変化した際の縮小画像の画素値V1〜V4に対応したヒストグラムを示し、右側の(a’)(b’)(c’)(d’)は、図16(b)の縮小画像の画素値V1〜V4に対応する累積ヒストグラムを示す。
図13に示す例は、傾き安定化階調数(stabN)が“1”、階調数設定値(N)が“8”、つまり0〜7までの8階調とした場合を示している。また、分配重みテーブル(Wtable)は、図12(a)に示すテーブルを使用する。この場合、傾き安定化階調が1つのため、画素値が属する階調位置(n)に対する頻値加算時に、重み係数W1が加算され、階調位置(n−1)に対する頻値加算時に重み係数(W2)が、階調位置(n+1)に対する頻値加算時に重み係数(W3)が加算される。
図13(a)(a’)に示す例は、縮小画像の画素値V1の場合であり、この例では、画素値が属する階調位置(n)=3であり、その階調内での画素値の相対的な位置を元に図12(a)に示す分配重みテーブルを用いて、重み係数を算出すると、下記のようになる。
重み係数W1は、W1=1/(1+1)=0.5
重み係数W2は、W2=0.1
重み係数W3は、W3=0.4
この重み係数より、ヒストグラムは下記のようになる。
P(0)=0、P(1)=0、P(2)=0.1、P(3)=0.5、P(4)=0.4、P(5)=0、P(6)=0、P(7)=0
図13(b)(b’)に示す例は、縮小画像の画素値V2の場合であり、この例では、画素値が属する階調位置(n)=3であり、その階調内での画素値の相対的な位置を元に図12(a)に示す分配重みテーブルを用いて、重み係数を算出すると、下記のようになる。
重み係数W1は、W1=1/(1+1)=0.5
重み係数W2は、W2=0.25
重み係数W3は、W3=0.25
この重み係数より、ヒストグラムは下記のようになる。
P(0)=0、P(1)=0、P(2)=0.25、P(3)=0.5、P(4)=0.25、P(5)=0、P(6)=0、P(7)=0
図13(c)(c’)に示す例は、縮小画像の画素値V3の場合であり、この例では、画素値が属する階調位置(n)=3であり、その階調内での画素値の相対的な位置を元に図12(a)に示す分配重みテーブルを用いて、重み係数を算出すると、下記のようになる。
重み係数W1は、W1=1/(1+1)=0.5
重み係数W2は、W2=0.4
重み係数W3は、W3=0.1
この重み係数より、ヒストグラムは下記のようになる。
P(0)=0、P(1)=0、P(2)=0.4、P(3)=0.5、P(4)=0.1、P(5)=0、P(6)=0、P(7)=0
図13(d)(d’)に示す例は、縮小画像の画素値V14の場合であり、この例では、画素値が属する階調位置(n)=2であり、その階調内での画素値の相対的な位置を元に図12(a)に示す分配重みテーブルを用いて、重み係数を算出すると、下記のようになる。
重み係数W1は、W1=1/(1+1)=0.5
重み係数W2は、W2=0.1
重み係数W3は、W3=0.4
この重み係数より、ヒストグラムは下記のようになる。
P(0)=0、P(1)=0.1、P(2)=0.5、P(3)=0.4、P(4)=0、P(5)=0、P(6)=0、P(7)=0
このように、本実施形態においては、階調の位置に応じて前後の階調への頻値に分配している。このため、ヒストグラムが急激に変化することはない。また、特許文献1では、露出変化が生じた際にヒストグラム平滑処理が不安定となるが、本実施形態においては、傾き安定化階調を決め、その頻値をこの本実施形態において、“0.5”に固定した状態で前後の階調へ分配している。このため、累積ヒストグラムを生成した際にも、傾きが安定化されるため、露出変化が起きても安定したヒストグラム平滑化処理ができるようになる。
次に、図14に示すフローチャートを用いて、図9に示したヒストグラム生成の第1の変形例を説明する。本変形は、図9のフローチャートにおいて、ステップS44aおよびS44bを追加している点が相違しており、他のステップは、図9のフローチャート同じであるので、相違点を中心に説明する。
図9に示したフローチャートにおいては、主として動画の撮影時に対応できるように、傾き安定化階調数を設定していた。これに対して、本変形例においては、1ショットで画像を生成する静止画駆動への対応と、複数のフレームで映像を生成するライブビュー/動画への対応を切り換えるようにしている。
複数のフレームで映像を作り出す場合、露出変化によるヒストグラム平滑化処理の影響が顕著に現われる。それに対して、1ショットで画像を生成する場合は、その1枚の画像で完結しているため、フレーム間の違いの影響はない。そこで、駆動モードが静止画駆動か否かを判別し、静止画駆動でない場合、つまり動画やライブビューの場合には、前段で読み込んだ傾き安定化階調数(stabN)をそのまま利用し、静止画駆動の場合、動画やライブビューの場合に比べ、傾き安定化階調数(stabN)を減らし局所コントラスト効果を強くする。
すなわち、図14に示すフローに入ると、初期設定値を読み込み(S41)、傾き安定化階調数(stabN)を読み込む(S43)。ここで、読み込む傾き安定化階調数(stabN)は、ライブビューや動画撮影時に適した値である。傾き安定化階調数を読み込むと、次に、駆動モードが静止画か否かを判定する(S44a)。駆動モードは、撮影者が操作部123を介して設定するので、この設定状態に基づいて判定する。
ステップS44aにおける判定の結果、駆動モードが静止画であった場合には、傾き安定化階調数(stabN)の変更を行う(S44b)。ここで、読み込む傾き安定化階調数(stabN)は、静止画撮影に適した値である。なお、本変形例においては、フラッシュメモリ125は、静止画撮影に適した傾き安定化階調数(StabN)も記憶している。
ステップS44bにおいて傾き安定化階調数(stabN)を変更すると、またはステップS44aにおける判定の結果、駆動モードが静止画でなかった場合には、ステップS45以下を実行する。この処理は、図14におけるフローと同様であり、ステップS43またはS44bで設定された傾き安定化階調数(stabN)を用いて、傾き安定化階調および隣接階調の頻値設定を行う。
このように、本発明の第1の変形例においては、傾き安定化階調数(stabN)を、静止画と、ライブビュー/動画で切り替えているので、静止画撮影での効果を維持しつつ、動画・ライブビューでの安定性を保持した処理を行うことができる。
次に、図15に示すフローチャートを用いて、図9に示したヒストグラム生成の第2の変形例を説明する。本変形は、図9のフローチャートにおいて、ステップS48aないしS48cを追加している点が相違しており、他のステップは、図9のフローチャート同じであるので、相違点を中心に説明する。
図9に示したフローチャートにおいては、画面全体に対して局所領域毎にヒストグラム平滑化処理を行った。これに対して、本変形例では、画面内で特定の領域を検出した際、その検出エリア内と検出エリア外での対応を切り替えるようにしている。
ヒストグラム平滑化など局所コントラスト強調は、風景などのシーンでは効果的に働くものの、人物の顔などの場合は、逆に違和感を生んでしまう場合がある。そこで、顔検出などで得られた検出情報を取得し、ヒストグラム生成時の対象画素、つまりヒストグラム生成領域の中心の画素が、検出範囲に入っている場合には、傾き安定化階調数(stabN)を増やし、局所コントラスト効果を弱め、一方、検出範囲に入っていない場合には、前段で読み込んだ傾き安定化階調数(stabN)をそのまま利用するようにしている。これによって、人物の顔と背景等、被写体に応じて、それぞれ最適なヒストグラム平滑化処理を行うことができる。
具体的には、図15のフローにおいて、ステップS47において、隣接階調分配重みテーブルの読み込みを行うと、次に、対象画素が検出情報を取得する(S48a)。ここでは、ヒストグラム平滑化の対象となる画素が、人物の顔の部分なのか、背景なのか等について判定する。画像処理部111は、画像データに基づいて顔を検出する顔検出部を有している場合には、この顔検出部の検出結果等を利用すればよい。また、画像処理部111やマイクロコンピュータ121等が、被写体対象を解析した結果を利用してもよい。
ステップS48aにおいて、検出情報を取得すると、次に、対象画素が検出範囲内か否かを判定する(S48b)。ここでは、例えば、対象画素が人物の顔部分等か否かについて判定する。
ステップS48bにおける判定の結果、対象画素が検出範囲の場合には、傾き安定化階調数(stabN)を変更する(S48c)。例えば、対象画素が顔の部分であった場合には、傾き安定化階調数(stabN)を増やし、局所コントラスト効果を弱めるようにする。
ステップ48cにおいて傾き安定化階調数(stabN)を変更すると、またはステップS48bにおける判定の結果、対象画素が検出範囲内にない場合には、ステップS49以下を実行する。この処理は、図14におけるフローと同様であり、ステップS43またはS48cで設定された傾き安定化階調数(stabN)を用いて、傾き安定化階調および隣接階調の頻値設定を行う。
このように、本発明の第2の変形例においては、傾き安定化階調数(stabN)を、検出範囲の内と外で切り替えているので、人物の顔と背景等、異なる被写体に対しても最適なヒストグラム平滑化処理を行うことができる。
以上説明したように、本発明の一実施形態や変形例においては、ヒストグラム生成の頻値カウントの際に、該当する階調、及びその近隣の階調に加算する値を所定値(例えば、0.5)に固定し、残り(例えば、0.5)を該当階調内でカウント対象の相対的な画素位置に応じて固定した階調に隣接する2つの階調に分配している(例えば、図11のS79〜S87参照)。このため、ヒストグラムが急激に変化することがなくなり、ヒストグラム平滑化の結果を安定的に変化させることができる。
なお、本発明の一実施形態や変形例においては、縮小画像の画素値に対して、ヒストグラム平滑化処理を行っていた。しかし、これに限らず、撮像素子102からの画像データに対して、直接、ヒストグラム平滑化処理を施すようにしても勿論かまわない。
また、本発明の各実施形態においては、画像処理部111、AE処理部113、AF処理部115、JPEG処理部117を、マイクロコンピュータ121とは別体の構成としたが、各部の全部または一部をソフトウエアで構成し、マイクロコンピュータ121によって実行するようにしても勿論かまわない。また、ソフトウエアによる処理をハードウエアで処理するようにしても勿論かまわない。
また、本実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末(PDA:Personal Digital Assist)、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、画像データを平滑化処理する機器であれば、本発明を適用することができる。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定できることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
100・・・カメラ本体、101・・・メカニカルシャッタ、103・・・撮像素子、105・・・アナログ処理部、107・・・A/D変換部、109・・・バス、111・・・画像処理部、111a・・・WB補正部、111b・・・同時化処理部、111c・・・階調補正処理部、111d・・・色再現処理部、111e・・・NR処理部、113・・・AE処理部、115・・・AF処理部、117・・・JPEG処理部、121・・・マイクロコンピュータ、123・・・操作部、125・・・フラッシュメモリ、127・・・SDRAM、129・・・メモリI/F、131・・・記録媒体、133・・・LCDドライバ、135・・・LCD、200・・・交換式レンズ、201・・・撮影レンズ、203・・・絞り、205・・・ドライバ、207・・・マイクロコンピュータ、209・・・フラッシュメモリ、999・・・I/F

Claims (9)

  1. 入力された画像データの輝度分布として、上記画像データを構成する画素値が属する所定の階調数の各々の階調に対して、1未満の固定値を加算してヒストグラムを生成するヒストグラム生成部と、
    上記ヒストグラムの生成にあたって、上記1未満の固定値との差分値を分配量として近隣の階調に分配する分配処理部と、
    上記ヒストグラム生成部により得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成部と、
    上記累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理部と、
    を有し、
    上記ヒストグラム生成部と上記分配処理部における上記1未満の固定値は、上記所定の階調数に対し、固定にすることを特徴とする画像処理装置。
  2. さらに被写界を撮像して画像データを出力する撮像部と、
    を有し、
    請求項1に記載の画像処理装置を具備することを特徴とする撮像装置。
  3. 上記分配処理部は、上記撮像部の撮像動作が静止画撮影である場合には、動画撮影である場合と比べて上記分配量を固定にする階調数を同じ、もしくは少なくすることを特徴とする請求項2に記載の撮像装置。
  4. さらに画像内のエリアを取得する検出部と、
    上記画像データの局所領域が、上記検出部において検出された上記エリア内にあるかどうかを判定するエリア判定部と、
    を備え、
    上記ヒストグラム生成部は、上記画像データの局所領域毎のヒストグラムを生成し、
    上記分配処理部は、上記エリア判定部において上記局所領域が上記エリア内と判定された場合には、上記分配量を固定にする階調数を変更することを特徴とする請求項2に記載の撮像装置。
  5. 上記分配処理部は、固定の分配量は、その対象となる階調数を用いて、W1=1/(stabN+1)とするように分配することを特徴とする請求項2ないし請求項4のいずれか1項に記載の撮像装置。
  6. 上記分配処理部において、分配量を固定にする階調に隣接する階調に対しては、画素値により変動する分配量を分配することを特徴とする請求項2ないし請求項4のいずれか1項に記載の撮像装置。
  7. 上記分配処理部において、画素値により変動する分配量の最大量は、固定の分配量及び固定の分配を行う階調数を用いて、
    W23=1−(W1×stabN)
    ここで、W23:分配重み係数
    W1:分配重み係数
    stabN:階調数
    とすることを特徴とする請求項5または請求項6に記載の撮像装置。
  8. 入力された画像データの輝度分布として、上記画像データを構成する画素値が属する所定の階調数の各々の階調に対して、1未満の固定値を加算してヒストグラムを生成するヒストグラム生成ステップと、
    上記ヒストグラムの生成にあたって、上記1未満の固定値と1との差分値を分配量として近隣の階調に分配する分配処理ステップと、
    上記ヒストグラム生成ステップにより得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成ステップと、
    上記累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理ステップと、
    を有し、
    上記ヒストグラム生成ステップと上記分配処理ステップにおける上記1未満の固定値は、上記所定の階調数に対し、固定にすることを特徴とする画像処理方法。
  9. 入力された画像データの輝度分布として、上記画像データを構成値する画素値が属する所定の階調数の各々の階調に対して、1未満の固定値を加算してヒストグラムを生成するヒストグラム生成ステップと、
    上記ヒストグラムの生成にあたって、上記1未満の固定値と1との差分値を分配量として近隣の階調に分配する分配処理ステップと、
    上記ヒストグラム生成ステップにより得られたヒストグラムを低階調側から累積して、累積ヒストグラムを生成する累積ヒストグラム生成ステップと、
    上記累積ヒストグラムを用いて、コントラスト補正を行う階調補正処理ステップと、
    を有し、
    上記ヒストグラム生成ステップと上記分配処理ステップにおける上記1未満の固定値は、上記所定の階調数に対し、固定にすることをコンピュータに実行させるプログラムを記憶したことを特徴とする記録媒体。
JP2015000814A 2015-01-06 2015-01-06 画像処理装置、撮像装置、画像処理方法、および記録媒体 Active JP6469448B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015000814A JP6469448B2 (ja) 2015-01-06 2015-01-06 画像処理装置、撮像装置、画像処理方法、および記録媒体
US14/971,446 US9892497B2 (en) 2015-01-06 2015-12-16 Image processing apparatus, imaging apparatus, and image processing method
CN201610004076.0A CN105763767B (zh) 2015-01-06 2016-01-04 图像处理装置、摄像装置和图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015000814A JP6469448B2 (ja) 2015-01-06 2015-01-06 画像処理装置、撮像装置、画像処理方法、および記録媒体

Publications (3)

Publication Number Publication Date
JP2016126592A JP2016126592A (ja) 2016-07-11
JP2016126592A5 JP2016126592A5 (ja) 2018-02-15
JP6469448B2 true JP6469448B2 (ja) 2019-02-13

Family

ID=56286771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015000814A Active JP6469448B2 (ja) 2015-01-06 2015-01-06 画像処理装置、撮像装置、画像処理方法、および記録媒体

Country Status (3)

Country Link
US (1) US9892497B2 (ja)
JP (1) JP6469448B2 (ja)
CN (1) CN105763767B (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2658874C1 (ru) * 2014-06-12 2018-06-25 ЭЙЗО Корпорайшн Устройство удаления тумана и способ формирования изображений
US10496876B2 (en) * 2016-06-30 2019-12-03 Intel Corporation Specular light shadow removal for image de-noising
WO2018142937A1 (ja) * 2017-01-31 2018-08-09 オリンパス株式会社 超音波観測装置、超音波観測装置の作動方法および超音波観測装置の作動プログラム
CN110049225B (zh) * 2018-01-15 2021-01-05 瑞昱半导体股份有限公司 基于直方图调整的对比增强方法及其装置
JP7140511B2 (ja) * 2018-03-02 2022-09-21 キヤノン株式会社 電子機器
CN112258525B (zh) * 2020-10-30 2023-12-19 西安费斯达自动化工程有限公司 一种基于鸟类高帧频序列图像丰度统计和种群识别算法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6038341A (en) * 1997-03-06 2000-03-14 Matsushita Electric Industrial Co., Ltd. Histogram operating unit for video signals
JP4499527B2 (ja) * 2004-10-19 2010-07-07 オリンパス株式会社 画像処理装置、画像記録装置、及び画像処理方法
JP4099481B2 (ja) * 2005-01-06 2008-06-11 株式会社ナナオ 画像処理方法、画像処理装置及びコンピュータプログラム
JP2007067815A (ja) * 2005-08-31 2007-03-15 Olympus Imaging Corp 画像処理装置及び画像処理方法
KR100756318B1 (ko) * 2006-01-16 2007-09-06 삼성전자주식회사 이득 조절 가능한 절단 빈도함수 평활화를 이용한 영상처리 방법 및 시스템
JP5053724B2 (ja) * 2007-06-19 2012-10-17 オリンパスイメージング株式会社 画像表示装置、撮像装置、画像再生装置、及び画像表示方法
JP5053802B2 (ja) * 2007-11-05 2012-10-24 オリンパス株式会社 信号処理装置及び信号処理プログラム
US8144985B2 (en) * 2007-12-21 2012-03-27 Sony Corporation Method of high dynamic range compression with detail preservation and noise constraints
JP5486791B2 (ja) 2008-10-10 2014-05-07 株式会社メガチップス 画像処理装置
JP2010219624A (ja) * 2009-03-13 2010-09-30 Toshiba Corp 画像信号処理装置及び画像信号処理方法
JP4795473B2 (ja) * 2009-06-29 2011-10-19 キヤノン株式会社 画像処理装置及びその制御方法
CN101873429B (zh) * 2010-04-16 2012-09-05 杭州海康威视软件有限公司 图像对比度的处理方法及装置
JP5023203B2 (ja) * 2010-08-24 2012-09-12 株式会社東芝 画像補正装置及び補正パラメータ作成装置
JP2012227800A (ja) * 2011-04-21 2012-11-15 Fujitsu Ten Ltd 画像処理装置、表示システム、及び、画像処理方法
JP2014096752A (ja) * 2012-11-12 2014-05-22 Konica Minolta Inc 画像処理装置および画像処理方法ならびに撮像装置
CN103813100A (zh) * 2013-12-16 2014-05-21 青岛威力电子科技有限公司 一种图像信号处理方法

Also Published As

Publication number Publication date
CN105763767A (zh) 2016-07-13
US20160196640A1 (en) 2016-07-07
US9892497B2 (en) 2018-02-13
JP2016126592A (ja) 2016-07-11
CN105763767B (zh) 2019-07-02

Similar Documents

Publication Publication Date Title
JP6469448B2 (ja) 画像処理装置、撮像装置、画像処理方法、および記録媒体
JP5713752B2 (ja) 画像処理装置、及びその制御方法
US10194091B2 (en) Image capturing apparatus, control method therefor, program, and recording medium
JP5347707B2 (ja) 撮像装置および撮像方法
JP5622513B2 (ja) 画像処理装置、画像処理方法、および撮像装置
JP5123137B2 (ja) 撮像装置および撮像方法
US7884866B2 (en) Imaging apparatus and imaging method
JP6325841B2 (ja) 撮像装置、撮像方法、およびプログラム
JP2017022610A (ja) 画像処理装置、画像処理方法
JP4717720B2 (ja) 画像処理装置および方法並びにプログラム
US20170318208A1 (en) Imaging device, imaging method, and image display device
JP5223686B2 (ja) 撮像装置および撮像方法
JP6483354B2 (ja) 撮像装置および撮像方法
JP2008053931A (ja) 撮像装置
JPWO2019111659A1 (ja) 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP2010103700A (ja) 撮像装置および撮像方法
JP2014060578A (ja) 撮像装置
JP2006333113A (ja) 撮像装置
JP6280780B2 (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP2008219230A (ja) 撮像装置及び画像処理方法
JP2010068331A (ja) 撮像装置および撮像方法
JP5310331B2 (ja) 撮像装置および撮像方法
JP6075829B2 (ja) 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体
JP5091734B2 (ja) 撮像装置および撮像方法
JP5169540B2 (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190116

R151 Written notification of patent or utility model registration

Ref document number: 6469448

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250