JP2010161557A - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP2010161557A
JP2010161557A JP2009001669A JP2009001669A JP2010161557A JP 2010161557 A JP2010161557 A JP 2010161557A JP 2009001669 A JP2009001669 A JP 2009001669A JP 2009001669 A JP2009001669 A JP 2009001669A JP 2010161557 A JP2010161557 A JP 2010161557A
Authority
JP
Japan
Prior art keywords
pixel
output
pixel output
bit
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009001669A
Other languages
English (en)
Other versions
JP5223686B2 (ja
Inventor
Kenji Shiraishi
賢二 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2009001669A priority Critical patent/JP5223686B2/ja
Priority to US12/652,515 priority patent/US8144216B2/en
Publication of JP2010161557A publication Critical patent/JP2010161557A/ja
Application granted granted Critical
Publication of JP5223686B2 publication Critical patent/JP5223686B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/64Systems for the transmission or the storage of the colour picture signal; Details therefor, e.g. coding or decoding means therefor
    • H04N1/648Transmitting or storing the primary (additive or subtractive) colour signals; Compression thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

【課題】露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影でダイナミックレンジを拡大することができる撮像装置を提供する。
【解決手段】補正係数算出部60により、Gフィルタの画素出力に対し、この画素周囲のR、Bフィルタの画素出力のうちの所定の飽和レベル以上に達していると判定された画素出力に基づいて、Gフィルタの画素出力を補正する画素出力補正処理部61と、画素出力補正処理部61から出力される、12ビットから14ビットに一度拡張された画素出力データを、12ビット数にビット圧縮するビット圧縮変換部51と、分割した画面の各領域ごとの画素出力の分布を算出するセンサーI/F34と、を備え、ビット圧縮変換部51は、算出された各領域ごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、各領域ごとの拡張された画素出力データをビット圧縮する。
【選択図】図6

Description

本発明は、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置および撮像方法に関し、特に撮影画像のダイナミックレンジを拡大することができる撮像装置および撮像方法に関する。
銀塩写真フィルムを用いる従来の銀塩カメラで撮影される画像のダイナミックレンジに比べ、CCD等の固体撮像素子を有するデジタルスチルカメラやデジタルビデオカメラ等で撮影される画像のダイナミックレンジは極めて狭い。ダイナミックレンジが狭いと、被写体の暗い部分は「黒つぶれ」といわれる現象が発生し、逆に被写体の明るい部分は「白とび」といわれる現象が発生して画像品質が低下する。
そこで、CCD等の固体撮像素子で撮像される画像のダイナミックレンジを拡大するために、例えば、同一被写体に対して露光量を変えて複数回の撮影を行い、露光量の異なる複数の画像を取得し、これらの画像を加算してダイナミックレンジが拡大された合成画像を生成する技術が従来より知られている(例えば、特許文献1参照)。
特開2000−92378号公報
ところで、ダイナミックレンジを拡大するために、前記特許文献1のように露光量を変えて複数回の撮影を行う方法では、移動物体の被写体を撮影したりすると、被写体が2重にずれた画像になり、正しく画像を合成できないことがある。
そこで、本発明は、露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影によってダイナミックレンジを拡大することができる撮像装置および撮像方法を提供することを目的とする。
前記目的を達成するために請求項1に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項2に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項3に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項4に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項5、10に記載の発明は、前記ビット圧縮特性は、基準となる基準ビット圧縮特性に対して所定の特性範囲幅内となるように設定されていることを特徴としている。
請求項6に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を含み、前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項7に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項8に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を備え、前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
請求項9に記載の発明は、光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴としている。
本発明によれば、特定色のフィルタが配置された画素からの出力が所定の飽和レベル以上に達しているときに、その画素の周囲の他の色のフィルタが配置された画素からの出力に基づいて、飽和レベル以上に達している画素出力を予測補間するように補正してダイナミックレンジを拡大することにより、特殊なセンサを用いることなく、または露光量を変え複数回の撮影を行って画像を合成することなく、1回の撮影によってダイナミックレンジを拡大することができる。
また、撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布または平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、各エリアごとの拡張された画素出力データをビット圧縮することにより、例えば、晴天時の空などの本来明るくてよい領域を暗くしてしまうようなことを防止して、より自然なダイナミックレンジ拡大効果を得ることが可能となる。
(a)は、本発明の実施形態1に係る撮像装置の一例としてのデジタルカメラを示す正面図、(b)は、その上面図、(c)は、その背面図。 本発明の実施形態1に係る撮像装置の一例としてのデジタルカメラ内のシステム構成の概要を示すブロック図。 本発明の実施形態1におけるRGBフィルタが配置されたCCDの画素配置位置と処理単位を示す図。 本発明の実施形態1におけるダイナミックレンジ拡大の原理を説明するための図。 本発明の実施形態1におけるYUV変換部の構成を示すブロック図。 本発明の実施形態1におけるDレンジ拡大予測補間部の構成を示すブロック図。 液晶モニタに表示された撮影設定画面の一例を示す図。 RGBフィルタの各画素出力に対する所定の飽和判定レベル(TG、TR、TB)を示した図。 (a)は、Gフィルタの画素出力が飽和レベルA以上に達していて、その周囲のR、Bフィルタの各画素出力もある程度高い場合を示す図、(b)は、Gフィルタの画素出力を飽和レベルA以上に拡大するように補正処理した状態を示す図。 (a)は、Gフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のR、Bフィルタの画素出力が極端に小さい場合を示す図、(b)は、Gフィルタの画素出力が飽和レベル以上に達しているときに、その周囲のR、Bフィルタの画素出力が極端に小さい場合に、Gフィルタの画素出力が飽和レベル以下に縮小補正された状態を示す図。 (a)は、本発明の実施形態1における、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性の一例を示す図、(b)は、本発明の実施形態1の他の例における、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性一例を示す図。 12ビットのRGBのデータを8ビットのRGBのデータに変換(γ変換)する変換テーブルの一例を示す図。 (a)、(b)は、それぞれGフィルタの画素出力のヒストグラムの一例を示す図。 (a)、(b)は、それぞれビット圧縮変換テーブルの一例を示す図。 特性範囲を設定したビット圧縮変換テーブルの一例を示す図。 本発明の実施形態2で用いたビット圧縮変換テーブルの一例を示す図。 本発明の実施形態5におけるRGBフィルタが配置されたCCDの画素配置位置と処理単位を示す図。 本発明の実施形態6におけるRGBフィルタが配置されたCCDの画素配置位置と処理単位を示す図。
以下、本発明を図示の実施形態に基づいて説明する。
〈実施形態1〉
図1(a)は、本発明の実施形態1に係る撮像装置の一例としてのデジタルスチルカメラ(以下、「デジタルカメラ」という)を示す正面図、図1(b)は、その上面図、図1(c)は、その背面図、図2は、図1(a),(b),(c)に示したデジタルカメラ内のシステム構成の概要を示すブロック図である。
(デジタルカメラの外観構成)
図1(a),(b),(c)に示すように、本実施形態に係るデジタルカメラ1の上面側には、レリーズボタン(シャッタボタン)2、電源ボタン3、撮影・再生切替ダイアル4が設けられており、デジタルカメラ1の正面(前面)側には、撮影レンズ系5を有する鏡胴ユニット6、ストロボ発光部(フラッシュ)7、光学ファインダ8が設けられている。
デジタルカメラ1の背面側には、液晶モニタ(LCD)9、前記光学ファインダ8の接眼レンズ部8a、広角側ズーム(W)スイッチ10、望遠側ズーム(T)スイッチ11、メニュー(MENU)ボタン12、確定ボタン(OKボタン)13等が設けられている。また、デジタルカメラ1の側面内部には、撮影した画像データを保存するためのメモリカード14(図2参照)を収納するメモリカード収納部15が設けられている。
(デジタルカメラのシステム構成)
図2に示すように、このデジタルカメラ1は、鏡胴ユニット6の撮影レンズ系5を通して入射される被写体画像が受光面上に結像する固体撮像素子としてのCCD20、CCD20から出力される電気信号(アナログRGB画像信号)をデジタル信号に処理するアナログフロントエンド部(以下、「AFE部」という)21、AFE部21から出力されるデジタル信号を処理する信号処理部22、データを一時的に格納するSDRAM23、制御プログラム等が記憶されたROM24、鏡胴ユニット6を駆動するモータドライバ25等を有している。
鏡胴ユニット6は、ズームレンズやフォーカスレンズ等を有する撮影レンズ系5、絞りユニット26、メカシャッタユニット27を備えており、撮影レンズ系5、絞りユニット26、メカシャッタユニット27の各駆動ユニットは、モータドライバ25によって駆動される。モータドライバ25は、信号処理部22の制御部(CPU)28からの駆動信号により駆動制御される。
CCD20は、図3に示すように、CCD20を構成する複数の画素20a上にベイヤ配列のRGB原色フィルタ(以下、「RGBフィルタ」という)が配置されており、各画素からRGB3原色に対応した電気信号(アナログRGB画像信号)が出力される。
AFE部21は、CCD20を駆動するTG(タイミング信号発生部)30、CCD20から出力される電気信号(アナログRGB画像信号)をサンプリングするCDS(相関2重サンプリング部)31、CDS31にてサンプリングされた信号のゲインを調整するAGC(アナログ利得制御部)32、AGC32でゲイン調整された信号をデジタル信号(以下、「RAW−RGBデータ」という)に変換するA/D変換部33を備えている。
信号処理部22は、AFE部21のTG30からの画面水平同期信号(HD)と画面垂直同期信号(VD)と画素転送クロック(ピクセルクロック)の出力を受け、これらの同期信号に合わせて、AFE部21のA/D変換部33から出力されるRAW−RGBデータを取り込むセンサーインターフェース(以下、「センサーI/F」という)34と、SDRAM23を制御するメモリコントローラ35と、取り込んだRAW−RGBデータを表示や記録が可能なYUV形式の画像データに変換するYUV変換部36と、表示や記録される画像データのサイズに合わせて画像サイズを変更するリサイズ処理部37と、画像データの表示出力を制御する表示出力制御部38と、画像データをJPEG形成などで記録するためのデータ圧縮部39と、画像データをメモリカード14へ書き込み、又はメモリカード14に書き込まれた画像データを読み出すメディアインターフェース(以下、「メディアI/F」という)40と、操作部41からの操作入力情報に基づき、ROM24に記憶された制御プログラムに基づいてデジタルカメラ1全体のシステム制御等を行う制御部(CPU)28を備えている。
操作部41は、デジタルカメラ1(図1(a),(b),(c)参照)の外観表面に設けられているレリーズボタン2、電源ボタン3、撮影・再生切替ダイアル4、広角側ズームスイッチ10、望遠側ズームスイッチ11、メニューボタン12、確定ボタン13等であり、撮影者の操作によって所定の動作指示信号が制御部28に入力される。
SDRAM23には、センサーI/F34に取り込まれたRAW−RGBデータが保存されると共に、YUV変換部36で変換処理されたYUVデータ(YUV形式の画像データ)が保存され、更に、データ圧縮部39で圧縮処理されたJPEG形成などの画像データが保存される。
なお、前記YUVデータのYUVは、輝度データ(Y)と、色差(輝度データと青色(B)成分データの差分(U)と、輝度データと赤色(R)成分データの差分(V))の情報で色を表現する形式である。
(デジタルカメラのモニタリング動作、静止画撮影動作)
次に、前記したデジタルカメラ1のモニタリング動作と静止画撮影動作について説明する。このデジタルカメラ1は、静止画撮影モード時には、以下に説明するようなモニタリング動作を実行しながら静止画撮影動作が行われる。
先ず、撮影者が電源ボタン3をONし、撮影・再生切替ダイアル4を撮影モードに設定することで、デジタルカメラ1が記録モードで起動する。電源ボタン3がONされて、撮影・再生切替ダイアル4が撮影モードに設定されたことを制御部28が検知すると、制御部28はモータドライバ25に制御信号を出力して、鏡胴ユニット6を撮影可能位置に移動させ、かつ、CCD20、AFE部21、信号処理部22、SDRAM23、ROM24、液晶モニタ9等を起動させる。
そして、鏡胴ユニット6の撮影レンズ系5を被写体に向けることにより、撮影レンズ系5を通して入射される被写体画像がCCD20の各画素の受光面上に結像する。そして、CCD20から出力される被写体画像に応じた電気信号(アナログRGB画像信号)は、CDS31、AGC32を介してA/D変換部33に入力され、A/D変換部33により12ビット(bit)のRAW−RGBデータに変換する。
このRAW−RGBデータは、信号処理部22のセンサーI/F34に取り込まれてメモリコントローラ35を介してSDRAM23に保存される。そして、SDRAM23から読み出されたRAW−RGBデータは、YUV変換部36で表示可能な形式であるYUVデータ(YUV信号)に変換された後に、メモリコントローラ35を介してSDRAM23にYUVデータが保存される。
そして、SDRAM23からメモリコントローラ35を介して読み出したYUVデータは、表示出力制御部38を介して液晶モニタ(LCD)9へ送られ、撮影画像が表示される。前記した液晶モニタ(LCD)9に撮影画像を表示しているモニタリング時においては、センサーI/F34による画素数の間引き処理により1/30秒の時間で1フレームを読み出している。
なお、このモニタリング動作時は、電子ファインダとして機能する液晶モニタ(LCD)9に撮影画像が表示されているだけで、まだレリーズボタン2が押圧(半押も含む)操作されていない状態である。
この撮影画像の液晶モニタ(LCD)9への表示によって、静止画を撮影するための構図の確認等を撮影者が行うことができる。なお、表示出力制御部38からTVビデオ信号として出力して、ビデオケーブルを介して外部のTV(テレビ)に撮影画像を表示することもできる。
そして、信号処理部22のセンサーI/F34は、取り込まれたRAW−RGBデータより、AF(自動合焦)評価値、AE(自動露出)評価値、AWB(オートホワイトバランス)評価値を算出する。
AF評価値は、例えば高周波成分抽出フィルタの出力積分値や、近接画素の輝度差の積分値によって算出される。合焦状態にあるときは、被写体のエッジ部分がはっきりとしているため、高周波成分が一番高くなる。これを利用して、AF動作時(合焦検出動作時)には、撮影レンズ系5内の各フォーカスレンズ位置におけるAF評価値を取得して、その極大になる点を合焦検出位置としてAF動作が実行される。
AE評価値とAWB評価値は、RAW−RGBデータにおけるRGB値のそれぞれの積分値から算出される。例えば、CCD20の全画素の受光面に対応した画面を1024エリアに等分割(水平32分割、垂直32分割)し、それぞれのエリアのRGB積算を算出する。
そして、制御部28は、算出されたRGB積算値を読み出し、AE処理では、画面のそれぞれのエリアの輝度を算出して、画面内の輝度分布から適正な露光量を決定する。決定した露光量に基づいて、露光条件(CCD20の電子シャッタ回数、絞りユニット26の絞り値等)を設定する。また、AWB処理では、RGBの分布から被写体色や光源色を判定し、光源の色に合わせたAWBの制御値を決定する。このAWB処理により、YUV変換部36でYUVデータに変換処理するときのホワイトバランスを合わせる。なお、前記したAE処理とAWB処理は、前記モニタリング動作時には連続的に行われている。
また、画素出力の平均値は、AE評価値から算出される。上記のようにRGBそれぞれのエリアごとに積分値が算出されるので、制御部28はそのエリアに含まれるRGBの画素数でRGBの各積分値を除算することで、各エリアの画素出力の平均値を算出することができる。
上記AE評価値、AWB処理と同様に、CCD20の全画素の受光面に対応した画面を1024エリアに等分割(水平32分割、垂直32分割)し、それぞれのエリアのGフィルタの画素出力のヒストグラム(分布)が算出される。Gフィルタの画素のみで行う理由は、Gフィルタの画素出力は光源の色温度による変化が大きくないこと、回路規模を小さくすることができること、輝度Yの算出では、Gフィルタの画素出力が支配的であることなどが挙げられる。
静止画の撮影は、前記したモニタリング動作時に、レリーズボタン2が押圧(半押しから全押し)操作されて静止画撮影動作が開始されると、合焦位置検出動作であるAF動作と静止画記録処理が行われる。
即ち、レリーズボタン2が押圧(半押しから全押し)操作されると、制御部28からモータドライバ25への駆動指令により撮影レンズ系5のフォーカスレンズが移動し、コントラスト評価方式のAF動作が実行される。
AF(合焦)対象範囲が無限から至近までの全領域であった場合、撮影レンズ系5のフォーカスレンズは、至近から無限、又は無限から至近までの間の各フォーカス位置に移動し、センサーI/F34で算出されている各フォーカス位置における前記AF評価値を制御部28が読み出す。そして、各フォーカス位置のAF評価値が極大になる点を合焦位置としてフォーカスレンズを合焦位置に移動させ、合焦させる。
そして、前記したAE処理が行われ、露光完了時点で、制御部28からモータドライバ25への駆動指令によりメカシャッタユニット27が閉じられ、CCD20から静止画用のアナログRGB画像信号が出力される。そして、前記モニタリング時と同様に、AFE部21のA/D変換部33によりRAW−RGBデータに変換される。
そして、このRAW−RGBデータは、信号処理部22のセンサーI/F34に取り込まれ、後述するYUV変換部36でYUVデータに変換されて、メモリコントローラ35を介してSDRAM23に保存される。そして、このYUVデータはSDRAM23から読み出されて、リサイズ処理部37で記録画素数に対応するサイズに変換され、データ圧縮部39でJPEG形式等の画像データへと圧縮される。
圧縮されたJPEG形式等の画像データは、SDRAM23に書き戻された後にメモリコントローラ35を介してSDRAM23から読み出され、メディアI/F40を介してメモリカード14に保存される。
(本発明におけるダイナミックレンジの拡大原理)
デジタルカメラ1のCCD20を構成する各画素上には、ベイヤ配列のRGBフィルタ(図3参照)が配置されているが、太陽光のように広い波長帯域を持つ光に対して、通常のRGBフィルタは各色ごとに輝度に対する感度が異なっている。
例えば、図4に示すように、G(グリーン)フィルタの感度が、R(レッド)フィルタ、B(ブルー)フィルタの2倍程度の感度を有するRGBフィルタ(図4のa、b、c)を有するCCD20の場合、太陽光のように広い波長帯域を持つ光が同じだけRGBフィルタに入射したときに、R、Bフィルタの各画素出力に対してGフィルタ(図4のcの斜線部分)の画素出力の方が先に飽和レベルAに達してしまう。なお、図4において、fはGフィルタの画素感度特性、gはR、Bフィルタの各画素感度特性であり、Gフィルタの画素感度特性は、R、Bフィルタの各画素感度特性の2倍程度の感度を有している。
ところで、RGBフィルタが配置されたCCDなどの固体撮像素子を有する従来のデジタルカメラでは、図4のa、b、cのRGBフィルタのように、感度の高いGフィルタの画素出力に応じた飽和レベルAに合わせてダイナミックレンジの範囲を設定している。このため、Gフィルタの画素出力が飽和レベルAに達している場合でも、R、Bフィルタの画素出力は飽和レベルAの1/2程度である。
これに対して、本発明では、図4のd、eのRGBフィルタのように、Gフィルタの画素出力が飽和レベルAを超えていても、R、Bフィルタの各画素出力が飽和レベルAを超えていない範囲内にあるときに、R、Bフィルタの各画素出力レベルから、R、Bフィルタの各画素感度特性(図4のg)とGフィルタの画素感度特性(図4のf)とに基づいてGフィルタの画素出力レベルを予測補間補正(一点鎖線部分)し、この予測補間した分だけダイナミックレンジを拡大するようにした。
前記したように本実施形態では、太陽光のように広い波長帯域を持つ光に対して、Gフィルタの画素感度特性は、R、Bフィルタの各画素感度特性の2倍程度の感度を有している。よって、本実施形態におけるダイナミックレンジの拡大度合の最大値は、ダイナミックレンジの拡大処理動作を行わない通常の撮影動作時に対して2倍程度である。
なお、本実施形態では、Gフィルタの画素感度特性がR、Bフィルタの各画素感度特性の2倍程度の感度を有し、これに基づいてダイナミックレンジの拡大度合の最大値が2倍としたが、RGBフィルタの各画素感度特性を変化させることにより、ダイナミックレンジの拡大度合の最大値を2倍以上の所定値、あるいは2倍以下の所定値に設定することができる。
(YUV変換部36によるダイナミックレンジ拡大の基本処理)
本実施形態に係るデジタルカメラ1のYUV変換部36は、前記したダイナミックレンジを拡大するためのダイナミックレンジ拡大処理機能を有している。
図5に示すように、YUV変換部36は、後述するダイナミックレンジ拡大予測補間部(以下、「Dレンジ拡大予測補間部」という)50、ビット圧縮変換部51、ホワイトバランス制御部52、同時化部53、トーンカーブ変換部54、RGB−YUV変換部55、画像サイズコンバータ部56、再生輝度ヒストグラム生成部57、およびエッジエンハンス部58を備えている。
Dレンジ拡大予測補間部50は、図6に示すように、補正係数算出部60、画素出力補正処理部61、およびビット拡張処理部62を備えている。Dレンジ拡大予測補間部50の補正係数算出部60、画素出力補正処理部61の処理動作については後述する。ビット拡張処理部62は、R、Bフィルタの画素出力に対して、出力レベルの変換を行うことなく12ビットから14ビットにそれぞれビット拡張のみを行う。
以下、本実施形態におけるダイナミックレンジの拡大処理動作について説明する。
前記したモニタリング動作時において、撮影者の判断によりメニューボタン12(図1(C)参照)を押圧操作することにより、例えば、図7に示すような撮影設定画面が液晶モニタ(LCD)9に表示される。そして、この表示画面から「ダイナミックレンジ拡大」の項目で「ON」を選択することにより、制御部28からYUV変換部36へ制御信号が出力され、ダイナミックレンジを拡大する処理動作が実行される。
そして、SDRAM23から読み出した前記RAW−RGBデータが、Dレンジ拡大予測補間部50の補正係数算出部60に入力される。
補正係数算出部60は、入力されるRAW−RGBデータからRGBフィルタを設けた各画素の画素出力を検出するとともに、Gフィルタを設けた画素の画素出力(以下、「Gフィルタの画素出力」という)およびその周辺のR、Bフィルタを設けた画素の画素出力(以下、「R、Bフィルタの画素出力」という)のそれぞれの出力が、予め設定されている所定の飽和レベル以上に達しているかを判定する。
更に、補正係数算出部60は、Gフィルタの画素出力およびR、Bフィルタの画素出力のいずれかが所定の飽和レベル以上に達している場合に、その飽和レベル以上のデータをもとにGフィルタの画素出力の補正(予測補間)を行うための後述する補正係数を算出する。なお、前記補正(予測補間)を行うかどうかの判断を、Gフィルタの画素出力およびR、Bフィルタの画素出力のいずれかが飽和レベル以上に達している場合と限定するものではなく、Gフィルタの画素出力のみ、またはR、Bフィルタの画素出力のみとしてもよい。
画素出力補正処理部61は、補正係数算出部60で算出された補正係数をGフィルタの画素出力に乗算することによって、Gフィルタの画素出力の補正処理を以下のように行う。
補正係数算出部60でGフィルタの画素出力の補正係数を算出する際において、本実施形態では、RGBフィルタを有するCCD20の各画素に対して、図3に示したように、太枠A内の2×2画素(2つのGフィルタの画素、1つずつのR、Bフィルタの画素)を処理単位(最小単位)とする。Gフィルタの画素出力の補正係数(K)、補正処理後のGフィルタの画素出力(Ge)、は、それぞれ下記の式(1)、式(2)から算出される。
K={l×f(Ro)+m×f(Go)+n×f(Bo)}/3 …式(1)
Ge=K×Go …式(2)
ただし、l、m、nはRGBの各フィルタの感度比率から設定される係数、Goは補正処理前のGフィルタの画素出力である。また、f(Ro)、f(Go)、f(Bo)は、下記の数1(式(3)〜式(5))で設定される係数である。
Figure 2010161557
ただし、RoはRフィルタの画素出力、TRはRフィルタの画素出力の飽和判定レベル、Goは補正処理前のGフィルタの画素出力、TGはGフィルタの画素出力の飽和判定レベル、BoはBフィルタの画素出力、TBはBフィルタの画素出力の飽和判定レベルである。
前記式(3)〜式(5)における各飽和判定レベルTR、TG、TBは、例えば、図8に示したある光源下におけるRGBフィルタの各画素出力に対する所定の飽和判定レベルに相当する。なお、図8において、A(TG)はGフィルタの画素出力の飽和レベル(飽和判定レベル)、TRはRフィルタの画素出力の飽和判定レベル、TBはBフィルタの画素出力の飽和判定レベルである。
図8に示すように、この光源下においては、前記したようにGフィルタを設けた画素の感度が、R、Bフィルタを設けた各画素の感度の2倍となっているため、Gフィルタの画素出力が最初に飽和点に達する。そのため、飽和点に達した画素出力値を、Gフィルタの画素出力の飽和判定レベルTGとした。よって、R、Bフィルタの各画素出力の飽和判定レベルTB、TGは、前記TGの1/2の値となる。なお、TR、TG、TBは、撮像装置(デジタルカメラなど)に用いられるRGBフィルタを有する固体撮像素子(CCDなど)自体の特性(感度比)と光源の色温度に依存し、図8に示したような比率に限定されるものではない。
RGBフィルタの各画素出力の感度比が、図8に示したような場合、前記式(1)における係数l、nをそれぞれ3/2、mを0とすることで、Gフィルタの画素出力の補正係数(K)が算出される。そして、この補正係数(K)により前記式(2)から算出された補正後のGフィルタの画素出力(Ge)の値は、処理単位(図3参照)内にある2つのGフィルタの画素出力値として置き換えられる。
なお、このGフィルタの画素出力値は12ビットを超えたデータになるため、ここでは一度14ビットのデータに置き換える。よって、R、Bフィルタの各画素出力の最大値はいずれも4095(12ビット)なので、Gフィルタの画素出力の最大値は8190となり、14ビットを超えることがないので14ビットのデータとして扱うことができる。
ところで、補正係数算出部60でGフィルタの画素出力の補正係数を算出する前に、欠陥画素の補正が完了している必要がある。即ち、RGBフィルタを設けた各画素中に欠陥画素があり、常に飽和する値を出力する画素があった場合、前記補正係数は大きな値になってしまい、結果として補正後のGフィルタの画素出力を大きな値に置き換えてしまうため、新たな欠陥画素を生成してしまうことになる。このため、本実施形態では、センサーI/F34に欠陥画素の出力を取り除く欠陥画素出力除去処理部(不図示)を備えている。
また、前記式(3)〜式(5)において、RGBフィルタの各画素出力が所定の飽和判定レベル(TR、TG、TB)以下の場合は“1”を設定しているが、これは補正後のGフィルタの画素出力(Ge)の値が、補正前のGフィルタの画素出力(Go)よりも小さくならないようにするためである。
例えば、図9(a)に示すように、前記処理単位(図3参照)内にあるGフィルタの画素出力が飽和レベルA以上に達しているときに、その周囲のR、Bフィルタの各画素出力もある程度高い(Gフィルタの画素出力に対する飽和レベルA以下)場合には、図9(b)に示すように、前記式(1)〜式(5)に基づいて、Gフィルタの画素出力を飽和レベルA以上に拡大するように補正して、ダイナミックレンジを拡大することができる。
しかしながら、例えば、図10(a)に示すように、前記処理単位(図3参照)内にあるGフィルタの画素出力が飽和レベルA以上に達しているときでも、その周囲のR、Bフィルタの各画素出力がGフィルタの画素出力に対して極端に小さい場合がある。この場合に、前記式(3)〜式(5)において、RGBフィルタの各画素出力が所定の飽和判定レベル(TR、TG、TB)よりも小さいときに“1”を入れるという判定が入っていなかった場合、Gフィルタの画素出力を補正すると、図10(b)に示すように、その周囲の画素出力が極端に小さいR、Bフィルタの影響により、Gフィルタの画素出力が逆に飽和レベルA以下に縮小される不具合が生じる。
そこで、前記式(3)〜式(5)のように、所定の飽和判定レベル(TR、TG、TB)との比較を行うことで、演算結果が図9(b)のように、元のGフィルタの画素出力の値よりも大きくなる場合のみ、ダイナミックレンジ拡大の補正が行われるようにしている。なお、図9(a)、(b)および図10(a)、(b)において、A(TG)はGフィルタの画素出力の飽和レベル(飽和判定レベル)、TRはRフィルタの画素出力の飽和判定レベル、TBはBフィルタの画素出力の飽和判定レベルである。
このように、Gフィルタの画素出力が飽和レベルA以上に達しているときでも、その周囲のR、Bフィルタの各画素出力がGフィルタの画素出力に対して極端に小さい場合には、Gフィルタの画素出力に対する補正処理が中止されることにより、Gフィルタの画素出力が下げられて、色ずれが生じることを防止することができる。
そして、Dレンジ拡大予測補間部50の画素出力補正処理部61で補正されたGフィルタの画素出力値データ、およびビット拡張処理部62でビット拡張されたのみのR、Bフィルタの画素出力値データは、ビット圧縮変換部51に出力される。
ビット圧縮変換部51は、例えば、図11(a)に示すような変換特性(3箇所の節点を指定し、それらの間を直線で近似する4区間の折れ線近似特性)によって、14ビットに拡張されたR、G、Bフィルタの画素出力のうちのGフィルタの画素出力を12ビットに圧縮する。なお、図11(a)において、aは12ビットの範囲であり、bは最大値8190のデータを1/2倍する単純な線形変換特性(一点鎖線部分)である。
図11(a)に示す変換特性(ビット圧縮変換テーブル)では、Gフィルタの画素出力の最大値は8190なので、8190が4095になるように圧縮する。そして、Gフィルタの画素出力の圧縮倍率に合わせて、R、Bフィルタの画素出力の値も圧縮する。
前記したように本実施形態では、最大値が8190に拡張されたGフィルタの画素出力を最大値が4095に圧縮する場合の一例として、図11(a)の実線で示したような3つの節点を有する変換特性を用いた。本実施形態では、単純な節点のない線形変換特性(図11(a)のb)では得られない以下のような2つの効果が得られる。
第1の効果としては、データの信頼性が高いデータにより多くのビット数を割り当てることができる。即ち、飽和レベル以上に達しているGフィルタの画素出力に対して補正処理する場合、前記したようにGフィルタの画素出力の飽和レベル付近の規定値以上の値になった範囲について補正(予測補間)を行い、この規定値以下の範囲では補正は行われない。よって、補正を行う範囲と行わない範囲とでは、データの精度が異なっている。
例えば、前記式(1)〜式(5)によって飽和しているGフィルタの画素出力値を補正(予測補間)する場合、主被写体の色によっては、補正を行う範囲においては被写体の輝度レベルが正確に再現できていない場合がある。これに対して補正を行っていない範囲は、RGBフィルタが配置されたCCD20から出力される実際のデータ(アナログRGB画像信号)をA/D変換したデータであるので、このデータの信頼性は高いものとなる。
即ち、図11(a)に示した本実施形態における変換特性(実線で示した部分)では、例えば、入力14ビットデータが1024ときに出力12ビットデータは1024になっており、元のデータがそのまま使われている。これに対し、例えば、入力14ビットデータが3072ときに出力12ビットデータは2560になっており、この範囲では補正前のビット割付よりも少ない割付となることによって、多少のビット誤差が発生する。
このように、単純な節点のない線形変換を行う特性(一点鎖線で示した部分)ではなく、本実施形態のように3つの節点を有する変換特性(実線で示した部分)を採用することにより、ビット割付をだんだんと少なくしていくことができるので、データの信頼性が高いデータにより多くのビット数を割り当てることができる。
そして、第2の効果としては、低・中輝度における階調を正確に保存することができる。即ち、単純な線形変換特性(図11(a)のb)でビット圧縮を行った場合、低輝度側の予測補間が行われていない範囲では、ビット割付が1/4になってしまう。このため、階調感のない画像になってしまう。これに対し、図11(a)に示したような本実施形態における変換特性(実線部分)でビット圧縮を行った場合には、飽和レベル以下で低輝度レベルにおける画素出力に対応したデータに対しては、ビット圧縮変換部51でビット圧縮する前とビット圧縮した後で略同じ値となるような圧縮率を用いることにより、低輝度レベルにおける階調性を良好に保持することができる。
なお、本実施形態では、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小するときに、図11(a)のように3つの節点を指定し、それらの間を直線で近似する4区間の折れ線近似特性(変換特性)でビット圧縮を行う構成であったが、この区間数は特に限定されるものではない。例えば、1つの節点を指定する2区間の折れ線近似特性としてもよいが、節点付近でビット割付が大きく変わることにより、前記した2つの効果が小さくなる。よって、3区間以上の区間数を有する折れ線近似特性(変換特性)が好ましい。
また、拡張したGフィルタの画素出力の14ビットデータを12ビットに縮小する変換特性を、図11(b)に示すように、複数の節点を有していない曲線による変換特性(ビット圧縮変換テーブル)としてもよい。即ち、図11(a)の4区間を有する変換特性に対して、区間数を8192にしたものがこの曲線による変換特性となる。なお、図11(b)において、aは12ビットの範囲である。
更に、入力14ビットデータの0〜8192に対して、12ビットに縮小変換後の数値データを持ったルックアップテーブルを設けておくことにより、この曲線による変換特性で、拡張したGフィルタの画素出力の14ビットデータを良好に12ビットに圧縮することができる。
そして、ビット圧縮変換部51で14ビットから12ビットに圧縮変換されたR、G、Bフィルタの各画素出力データは、ホワイトバランス制御部52に入力される。
ホワイトバランス制御部52は、入力されるRGBフィルタの画素出力値データに対してホワイトバランスを合わせるための補正係数を乗算する。この補正係数は、センサーI/F34で生成された前記AWB評価値に基づいて制御部28で算出される。なお、この補正係数は、光源色を白くするような係数である。
そして、ホワイトバランス制御部52からホワイトバランスが合わされたRGBフィルタの画素出力値データ(12ビット)は、同時化部53に入力される。同時化部53は、ベイヤ配列の1画素に1色のデータしか持っていないRAWデータに対して補間演算処理を行い、1画素に対してRGBの全てのデータを生成する。
そして、同時化部53で生成されたRGBの全てのデータ(12ビット)は、トーンカーブ変換部54に入力される。トーンカーブ変換部54は、図12に示すような変換テーブルによって12ビットのRGBのデータを8ビットのRGBのデータに変換するγ変換を行って、8ビットのRGB値を生成し、RGB−YUV変換部55に出力する。
RGB−YUV変換部55は、入力されるRGBデータ(8ビット)をマトリックス演算によりYUVデータに変換し、画像サイズコンバータ部56に出力する。画像サイズコンバータ部56は、入力されるYUVデータ(8ビット)に対して所望の画像サイズに縮小または拡大を行い、再生輝度ヒストグラム生成部57およびエッジエンハンス部58に出力する。
再生輝度ヒストグラム生成部57は、入力されるYUVデータにより輝度ヒストグラムを生成する。エッジエンハンス部58は、入力されるYUVデータに対して画像に合わせたエッジ強調等の処理を行い、メモリコントローラ35を介してSDRAM23に保存する。
このように、本実施形態では、処理単位内の感度の高いGフィルタの画素出力が飽和レベルを超えているような場合においても、感度の低いR、Bフィルタの画素出力に基づいて、飽和しているGフィルタの画素出力を補正(予測補間)処理することにより、図4に示したように、Gフィルタ(図4のd、e)の画素出力の補正(予測補間)処理した拡張領域(図4のd、eのGフィルタの画素出力の一点鎖線部分)に基づいて、1回の撮影でダイナミックレンジを2倍に拡大することが可能となる。
よって、撮影画像内の背景等に高輝度部分がある場合でも、白とびの発生を防止して良好な階調性を得ることが可能となる。
なお、前記した実施形態1の説明および図4、図8において、所定の飽和レベル判定値である図4の飽和レベルAと補正後の12ビットの最大値である4095と、または図8の飽和判定レベルTRと補正後の12ビットの最大値である4095とがそれぞれ一致しているように説明したが、これに限定するものではない。例えば、出力が完全に飽和する付近の高輝度部において、出力の直線性(リニアリティー)が良くないRGBフィルタを有するCCDでは、例えば完全に飽和する4095よりも小さい値である4032を所定の飽和レベル値(図4の飽和レベルA)とおいて、その値を超えた画素出力を補正処理の対象としてもよい。
また、デジタルカメラのシステム構成によっては、高輝度被写体でも12ビットの最大値である4095にならないものもある。その場合も同様に所定の飽和レベルを4095よりも低い値に設定するとよい。
このように、4095未満を所定の飽和レベルとしたときでも、その特性に合わせて図12(a)の変換カーブを切り替えることで、ビット圧縮変換部51の出力を4095にすることができ、後段の処理を変えることなくダイナミックレンジの拡大が可能となる。
本実施形態に係るデジタルカメラ1は、前記したダイナミックレンジ拡大処理動作によって、飽和しているGフィルタの画素出力を補正(予測補間)処理することで1回の撮影でダイナミックレンジを2倍に拡大することができるが、更に、以下のような処理機能を有している。
前記したように信号処理部22のセンサーI/F34は、取り込まれたRAW−RGBデータより各エリアの画素出力の平均値(出力平均値)と、各エリアのGフィルタの画素出力のヒストグラム(分布)を算出する機能を有している。また、制御部28は、この出力平均値と画素出力のヒストグラムを必要に応じて読み出すことが可能である。
図13(a)、(b)は、それぞれ1024エリアに等分割(水平32分割、垂直32分割)されたエリアの中の、任意の2エリアにおけるGフィルタの画素出力のヒストグラムの一例を示したものである。図13(a)のヒストグラムでは、エリア内に高輝度被写体が存在し、飽和している部分(最大輝度部分(255))が存在することが分かる。一方、図13(b)の画素出力のヒストグラムでは、はエリア内に飽和してしまうほどの高輝度被写体はほとんどないことが分かる。なお、図13(a)、(b)の画素出力のヒストグラムは、センサーI/F34で算出されたものである。
図13(a)に示した画素出力のヒストグラムのように最大輝度部分(255)付近に高輝度被写体が存在する場合、このエリアにおいては、前記式(1)〜式(5)によって、Gフィルタの画素出力が図4のd,eのように飽和レベル以上に拡大されることで、ダイナミックレンジ拡大効果を得ることができる。
一方、図13(b)の画素出力のヒストグラムに示すように最大輝度部分(255)付近に高輝度被写体が存在せず、規定の飽和レベルになる画素が存在しない場合、このエリアにおいては、前記式(1)〜式(5)によるダイナミックレンジ拡大効果は得られない。そして、この場合に、前記したようにGフィルタの画素出力に対して、図11(a)に示したようなビット圧縮を行うと、例えば4095付近の入力データは3000以下に減少してしまい、逆にダイナミックレンジを縮小させてしまうことになる。
そこで、本実施形態では、複数のビット圧縮変換テーブルを予めROM24に保存しておく。そして、制御部28は、センサーI/F34から読み出した各エリアにおけるGフィルタの画素出力のヒストグラム(分布)に応じてROM24から適切なビット圧縮変換テーブルを選択して読み出し、読み出したビット圧縮変換テーブルに基づいて、前記したようにGフィルタの画素出力データに対してビット圧縮を行うような制御を実行させる。
なお、制御部28は、センサーI/F34から前記画素出力のヒストグラムの代わりに画素出力の平均値(出力平均値)を読み出すような構成でもよい。この場合においても同様に、読み出した各エリアにおける画素出力の平均値(出力平均値)に応じてROM24から適切なビット圧縮変換テーブルを選択して読み出し、読み出したビット圧縮変換テーブルに基づいて、前記したようにGフィルタの画素出力データに対してビット圧縮を行うような制御を実行させる。
読み出したビット圧縮変換テーブルは、ビット圧縮変換部51に設定される。本実施形態では、ビット圧縮変換部51は、エリア分割の32×32ブロックに対応してそれぞれビット圧縮変換テーブルの設定が可能であり、制御部28は前記したYUV変換処理を開始する前に、予め各分割エリアで用いるビット圧縮変換テーブルを選択して設定しておくことができる。
ROM24には、例えば、前記図11(a)、(b)にそれぞれ示したビット圧縮変換テーブルや、図14(a)、(b)にそれぞれ示したビット圧縮変換テーブルなどが保存されている。なお、図14(a)、(b)において、aは12ビットの範囲である。
本実施形態では、例えば、前記のように4095以下の4000を規定の飽和レベルとした場合において、4000以上が多く存在し、かつ4050以上も存在する場合は、図11(a)に示したビット圧縮変換テーブルを選択する。また、4000以上が存在するが、4050以上はない場合は、図14(b)に示したビット圧縮変換テーブルを選択し、規定の飽和レベル以上の画素出力が存在しない場合は、図14(a)に示したビット圧縮変換テーブルを選択する。なお、図14(a)と図14(b)の各ビット圧縮変換テーブルの違いは、入力の数値がどの数値以上になったら白飛びさせてしまうかの違いであり、図14(a)のビット圧縮変換テーブルの方が白飛びさせてしまう領域が増える可能性が高い。
このように、センサーI/F34から読み出した各エリアにおけるGフィルタの画素出力のヒストグラムの分布に応じてROM24から適切なビット圧縮変換テーブルを選択することにより、特定エリアに高輝度被写体が存在せず、規定の飽和レベルに達するような画素が存在しないような場合に、このエリアにおけるGフィルタの画素出力に対する補正量を小さくすることができる。よって、前記したようにGフィルタの画素出力を飽和レベルA以上に拡大するように補正した場合に、高輝度被写体が存在せず、規定の飽和レベルに達するような画素が存在しないエリアに対しては、逆にダイナミックレンジを縮小してしまうようなことを防止することができる。
なお、前記実施形態では、ビット圧縮変換テーブルとして、図11(a)、(b)や図14(a)、(b)の4種類のビット圧縮変換テーブルを示したが、この4種類のビット圧縮変換テーブルに限定されるものではない。例えば、各エリアの輝度分布の特性に合わせてビット圧縮テーブルを変更することで、エリアごとに異なる特性のビット圧縮テーブルを使用することも可能である。なお、この場合には、隣接するエリアにおいて極端に特性の異なるビット圧縮変換テーブルを設定すると、高輝度部分において、入力が同一輝度なのに出力した画像に輝度差が生じて、色合いが変化してしまう可能性がある。そこで、設定できるビット圧縮変換テーブルの特性範囲幅を予め設定しておく。
例えば、図15に示すような特性範囲(実線aで示した特性と破線bで示した特性とで形成される領域)を有するビット圧縮変換テーブルを設定する。図15において、実線aが、RGBフィルタを有するCCD20の出力特性より算出された基準となるビット圧縮変換テーブルである。これに対して破線bが、輝度分布や平均輝度に応じてダイナミックレンジ拡大効果を縮小させる方向に設定可能な範囲である。なお、図15において、cは12ビットの範囲である。
よって、図15に示すような特性範囲を有するビット圧縮変換テーブルを用いることにより、隣接するエリアにおいて、輝度分布や平均輝度に応じてダイナミックレンジ拡大の効果を縮小させるような場合でも、補正量を基準となるビット圧縮変換テーブルに対して所定の範囲内とすることができるので、画像に輝度差が生じることが抑えられ、色合いが変化することを防止することができる。
〈実施形態2〉
前記実施形態1では、図11(a)、(b)、図14(a)、(b)の4種類のビット圧縮変換テーブルを示したが、低輝度側の輝度分布に注目し、黒潰れ付近に画素データが多く存在するような場合には、例えば、図16に示すようなビット圧縮変換テーブルを用いることで、部分的にトーンカーブの補正を行うことも可能である。なお、図16において、aは12ビットの範囲である。このビット圧縮変換テーブルは、図11(b)に示したビット圧縮変換テーブルと比較すると、低輝度側で出力値が大きくなっていることが分かる。
〈実施形態3〉
例えば、画面上部でエリア内の平均輝度が高く、かつGフィルタの画素出力のヒストグラムが高輝度側に偏っていた場合、そのエリアは晴天時の空の可能性がある。このような明るい空を有する風景を撮影する場合に、前記したダイナミックレンジ拡大処理を行って、図11(a)のビット圧縮変換テーブルを用いてビット圧縮を行うと、以下のような理由で明るい空の部分が逆に薄暗くなってしまう可能性ある。
即ち、前記したダイナミックレンジ拡大処理を行わない通常の撮影モードの場合では、画素出力は12ビット(0〜4095)の範囲(図11(a)の範囲a)であり、4095以上は画素出力が飽和レベル以上となって白飛びとなる領域である。そして、本発明の実施形態1で述べたようなダイナミックレンジ拡大処理を行うことにより、このような白飛び領域に対しても良好な階調が得られるようにした。前記実施形態1では、図11(a)のように画素出力が4095以上に達している場合に、補正(予測補間)処理によって8190の範囲に算出できた部分を、再度ビット圧縮によって4095の範囲内にデータを割り振るようしている。この場合、高輝度側の方ほどよりビット圧縮を行うようにしている。
そのため、図11(a)に示したようなビット圧縮変換テーブルにおいて、例えば、入力が3000以上の高輝度部が“晴天時の明るい空”だったとすると、出力はいずれも元の数値よりも小さい値になってしまう。よって、図11(a)のビット圧縮変換テーブルを用いてビット圧縮を行った場合に、晴天時の明るい空の部分が逆に薄暗くなってしまう。
そこで、本実施形態では、エリア内の平均輝度が高く、かつGフィルタの画素出力のヒストグラムが高輝度側に偏っているような場合には、前記したダイナミックレンジ拡大処理を行って、図11(a)に示したビット圧縮変換テーブルの代わりに、図14(a)や図14(b)に示したビット圧縮変換テーブルを用いてビット圧縮を行うことにより、晴天時の明るい空の部分が逆に薄暗くなってしまうような不具合を防止して、より自然なダイナミックレンジ拡大効果を得ることができる。
〈実施形態4〉
実施形態1では、Gフィルタの画素出力およびR、Bフィルタの画素出力のいずれかが飽和レベル以上に達している場合に、Gフィルタの画素出力の補正(予測補間)を行う例であったが、本実施形態では、Gフィルタの画素出力が飽和しているときのみ、Dレンジ拡大予測補間部50(図6参照)によるGフィルタの画素出力の補正(予測補間)処理を実施するものとする。
本実施形態においては、Dレンジ拡大予測補間部50の画素出力補正処理部61では、下記の数2(式(6))のように、Gフィルタの画素出力が規定の飽和レベルを超えているときのみ補正処理を実施する。
Figure 2010161557
ただし、Geは補正後のGフィルタの画素出力、Goは補正処理前のGフィルタの画素出力、Kは補正係数、TGはGフィルタの画素出力の飽和判定レベルである。
このように、式(6)による補正処理を行うことにより、例えば被写体の色合いによってR、Bフィルタの画素出力だけが大きく、RGBフィルタの各画素出力の比率が図8に示したような比率から極端にずれている場合においても、Gフィルタの画素出力値がずれてしまうことを防止することができる。
〈実施形態5〉
前記実施形態1では図3に示したように、RGBフィルタを有するCCD20に対して、2×2画素を処理単位(最小単位)としていたが、本実施形態では、図17に示すように、太枠A内の5画素(1つのGフィルタの画素、2つずつのR(R1、R2)、B(B1、B2)フィルタの画素)を処理単位(最小単位)とし、処理単位を前記実施形態1の場合よりも広い範囲とした例である。なお、デジタルカメラの構成、モニタリング動作、静止画撮影動作、およびダイナミックレンジの拡大処理動作は、前記実施形態1と同様である。
図17に示した太枠Aの処理単位内にあるGフィルタの画素出力が飽和レベル以上に達している場合、Gフィルタの感度は、前記したようにR、Bフィルタの感度の約2倍であるため、Gフィルタの画素出力の補正係数(K)、補正後のGフィルタの画素出力(Ge)は、下記の式(7)、式(8)から算出される。本実施形態では、
K={l×f(Ra)+m×f(Ga)+n×f(Ba)}/3 …式(7)
Ge=K×Ga …式(8)
ただし、l、m、nはRGBの各フィルタの感度比率から設定される係数、Gaは補正前のGフィルタの画素出力である。また、f(Ra)、f(Ga)、f(Ba)は、下記の数3(式(9)〜式(11))で設定される係数である。
Figure 2010161557
ただし、Raは前記処理単位(図17参照)内でのRフィルタの画素出力の平均値、TRはRフィルタの画素出力の飽和判定レベル、Gaは前記処理単位(図17参照)内でのGフィルタの画素出力、TGはGフィルタの画素出力の飽和判定レベル、Baは前記処理単位(図17参照)内でのBフィルタの画素出力の平均値、TBはBフィルタの画素出力の飽和判定レベルである。
なお、前記TR、TG、TBは、前記式(3)〜式(5)と同様である。また、前記係数l、m、nは、R、G、Bフィルタの各画素出力の感度比が実施形態1と同様であれば、係数l、nがそれぞれ3/2、mが0となる。
そして、図6に示したDレンジ拡大予測補間部50の画素出力補正処理部61は、前記式(8)より算出されたGフィルタの画素出力値を、前記処理単位(図17参照)内にあるGフィルタの画素出力値として置き換え、以下、前記実施形態1と同様の処理を行う。
このように、処理単位を広くすることで、処理単位内の他のR1,R2フィルタの画素、B1,B2フィルタの画素が持っている感度差による影響を緩和することができ、Gフィルタの画素出力に対して、より正確なダイナミックレンジ拡大予測補間が可能となる。
〈実施形態6〉
本実施形態では、図18に示すように、RGBフィルタを有するCCD20に対して、前記実施形態5の場合よりも更に処理単位(太枠A)を広くした例である。なお、デジタルカメラの構成、モニタリング動作、静止画撮影動作、およびダイナミックレンジの拡大処理動作は、前記実施形態1と同様である。ただし、Gフィルタの画素出力に対する予測補間の算出式は、前記実施形態5と同様に式(7)〜式(11)を用いる。
処理単位を広くすると、広い範囲の輝度情報に基づいて処理することになるため、ローパスフィルタをかけたことと等価になってしまう。そのため、輝度変化のエッジ部分がなまってしまう。そこで、本実施形態では、広くした処理単位の大きさを、例えば、前記AF評価値を利用して部分的に変更するものとする。
即ち、図2に示した信号処理部22のセンサーI/F34では、前記したようにAFを行うためのAF評価値を算出している。これは、ハイパスフィルタ(HPF)の出力であり、撮影画像の画面内に輝度の変化がある部分では大きな値が出力される。そして、制御部28は、静止画撮影時のAF評価値を読み出し、画面内の輝度変化がある部分とない部分を判別する。
そして、制御部28は、この判別データを基にDレンジ拡大予測補間部50に対して、輝度変化がある部分には処理単位が狭くなるような設定を行い、輝度変化がない部分には、図18に示したように処理単位が広い範囲になるように設定を行う。
このように、処理単位を更に広くした場合でも、輝度変化がある部分には処理単位が狭くなるような設定を行うことで、解像度を落とすことなく、正確なダイナミックレンジ拡大予測補間が可能となる。
なお、前記した各実施形態では、色分解フィルタとしてRGBの3原色系フィルタを配置した構成であったが、色分解フィルタとして補色系フィルタを配置した構成においても、同様に本発明を適用することができる。
また、前記した各実施形態では、撮影レンズ系とCCD等の固体撮像素子を有するデジタルカメラなどの撮像装置についての説明であったが、画像処理装置においも同様に本発明を適用することが可能である。例えば、単板式カラー撮像素子からのアナログ出力をデジタル信号に変換して保存したRAWデータを入力して、RGBデータやYCbCrデータを出力するような画像処理装置においても、同様に本発明を適用することが可能である。
1 デジタルカメラ(撮像装置)
5 撮影レンズ系(光学系)
6 鏡胴ユニット
9 液晶モニタ
12 メニューボタン
20 CCD(撮像素子)
21 アナログフロントエンド部
22 信号処理部
23 SDRAM
28 制御部
34 センサーI/F(画素出力分布算出手段、平均画素出力値算出手段)
35 メモリコントローラ
36 YUV変換部
50 Dレンジ拡大予測補間部
51 ビット圧縮変換部(ビット圧縮変換手段)
60 補正係数算出部(画素出力検出手段)
61 画素出力補正処理部(画素出力補正処理手段)
62 ビット拡張処理部

Claims (10)

  1. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
    前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
    前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、
    前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
  2. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
    前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
    前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、
    前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
  3. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
    前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
    前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出手段と、を備え、
    前記ビット圧縮変換手段は、前記画素出力分布算出手段で算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
  4. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子と、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出手段と、
    前記画素出力検出手段により、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理手段と、
    前記画素出力補正処理手段から出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換手段と、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出手段と、を備え、
    前記ビット圧縮変換手段は、前記平均画素出力値算出手段で算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリア域ごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像装置。
  5. 前記ビット圧縮特性は、基準となる基準ビット圧縮特性に対して所定の特性範囲幅内となるように設定されていることを特徴とする請求項1乃至4のいずれか一項に記載の撮像装置。
  6. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
    前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
    前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を含み、
    前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
  7. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
    前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力のうちの前記所定の飽和レベル以上に達していると判定された画素出力に基づいて、前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
    前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、
    前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
  8. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
    前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
    前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの画素出力の分布を算出する画素出力分布算出ステップと、を備え、
    前記ビット圧縮変換ステップは、前記画素出力分布算出ステップで算出された前記各エリアごとの画素出力の分布に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
  9. 光学系を通して入射される被写体像を複数の画素を有する受光面に受光して電気信号に変換するとともに、前記各画素の前面側に複数色の色分解フィルタが配置された撮像素子を備えた撮像装置の撮像方法において、
    前記各画素からの出力に対し、画素出力が各所定の飽和レベル以上に達しているか否かを判定する画素出力検出ステップと、
    前記画素出力検出ステップにより、特定色のフィルタが配置された画素からの出力が前記所定の飽和レベル以上に達していると判定された画素出力に対し、この画素の周囲の前記特定色以外のフィルタが配置された画素からの出力に基づいて、前記所定の飽和レベル以上に達している前記特定色のフィルタが配置された画素からの出力を補正する画素出力補正処理ステップと、
    前記画素出力補正処理ステップから出力される、第1のビット数から第2のビット数に一度拡張された画素出力データを、再度前記第1のビット数にビット圧縮するビット圧縮変換ステップと、
    前記撮像素子の受光面に対応した画面を縦横に複数に分割した各エリアごとの平均画素出力値を算出する平均画素出力値算出ステップと、を含み、
    前記ビット圧縮変換ステップは、前記平均画素出力値算出ステップで算出された前記各エリアごとの平均画素出力値に応じてそれぞれ設定されたビット圧縮特性に基づいて、前記各エリアごとの拡張された前記画素出力データをビット圧縮することを特徴とする撮像方法。
  10. 前記ビット圧縮特性は、基準となる基準ビット圧縮特性に対して所定の特性範囲幅内となるように設定されていることを特徴とする請求項6乃至9のいずれか一項に記載の撮像方法。
JP2009001669A 2009-01-07 2009-01-07 撮像装置および撮像方法 Expired - Fee Related JP5223686B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009001669A JP5223686B2 (ja) 2009-01-07 2009-01-07 撮像装置および撮像方法
US12/652,515 US8144216B2 (en) 2009-01-07 2010-01-05 Imaging apparatus and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009001669A JP5223686B2 (ja) 2009-01-07 2009-01-07 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2010161557A true JP2010161557A (ja) 2010-07-22
JP5223686B2 JP5223686B2 (ja) 2013-06-26

Family

ID=42311433

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009001669A Expired - Fee Related JP5223686B2 (ja) 2009-01-07 2009-01-07 撮像装置および撮像方法

Country Status (2)

Country Link
US (1) US8144216B2 (ja)
JP (1) JP5223686B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014187634A (ja) * 2013-03-25 2014-10-02 Canon Inc 画像処理装置及びその制御方法
KR20140133394A (ko) * 2013-05-10 2014-11-19 삼성테크윈 주식회사 화상 처리 장치 및 화상 처리 방법
JP2015156616A (ja) * 2014-02-21 2015-08-27 キヤノン株式会社 画像処理装置、画像処理方法、制御プログラム、および記録媒体
US11488289B2 (en) 2016-03-30 2022-11-01 Interdigital Vc Holdings, Inc. Method for detection of saturated pixels in an image

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8269852B2 (en) * 2007-09-14 2012-09-18 Ricoh Company, Ltd. Imaging apparatus and imaging method
JP5803233B2 (ja) * 2011-02-14 2015-11-04 株式会社リコー 撮像装置および撮像方法
CN103373093A (zh) * 2012-04-28 2013-10-30 新采国际股份有限公司 打印控制方法以及相关的打印装置系统
JP6304391B2 (ja) 2014-10-17 2018-04-04 株式会社リコー 車両用画像表示システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001112010A (ja) * 1999-10-05 2001-04-20 Sony Corp カラー撮像装置
JP2003199117A (ja) * 2001-12-25 2003-07-11 Sony Corp 撮像装置及び固体撮像素子の信号処理方法
JP2006217277A (ja) * 2005-02-03 2006-08-17 Nikon Corp 撮像装置
JP2007094092A (ja) * 2005-09-29 2007-04-12 Canon Inc 画像形成装置及びその制御方法
JP2007194971A (ja) * 2006-01-20 2007-08-02 Hitachi Kokusai Electric Inc 画像処理装置および画像処理方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10262182A (ja) 1997-03-17 1998-09-29 Ricoh Co Ltd 画像合成装置
JP4245699B2 (ja) 1998-09-16 2009-03-25 オリンパス株式会社 撮像装置
JP3926947B2 (ja) * 1999-06-22 2007-06-06 富士フイルム株式会社 画像データ形成装置および画像データ処理方法
US7471321B2 (en) 2002-01-30 2008-12-30 Ricoh Company, Ltd. Photographing apparatus and photographing method
US7573509B2 (en) 2002-01-30 2009-08-11 Ricoh Company, Ltd. Digital still camera, reproduction device, and image processor
JP4008778B2 (ja) 2002-07-31 2007-11-14 株式会社リコー 撮像装置
US7589782B2 (en) 2003-02-06 2009-09-15 Ricoh Company, Ltd. Imaging apparatus and imaging method for reducing release time lag
JP4136841B2 (ja) 2003-08-18 2008-08-20 株式会社リコー 撮像装置
JP4184930B2 (ja) 2003-11-19 2008-11-19 株式会社リコー 撮像装置および撮像方法および記録媒体
CN102260188A (zh) * 2003-11-26 2011-11-30 诺瓦提斯公司 有机化合物
JP2005184391A (ja) 2003-12-18 2005-07-07 Ricoh Co Ltd 撮像装置およびその異常検出方法
US7598997B2 (en) 2004-01-14 2009-10-06 Ricoh Company, Ltd. Imaging apparatus and focus control method based on a number of automatic focus scan stages, and recording medium storing a program for executing such a method
JP4530277B2 (ja) * 2005-02-25 2010-08-25 株式会社リコー 画像再生装置、画像再生方法、プログラムおよび記録媒体
JP4943721B2 (ja) 2006-03-20 2012-05-30 株式会社リコー 画像データのカラーノイズ除去方法及びこの方法を用いた撮像装置
EP2026567B1 (en) 2007-07-31 2010-10-06 Ricoh Company, Ltd. Imaging device and imaging method
US7884866B2 (en) 2007-09-14 2011-02-08 Ricoh Company, Ltd. Imaging apparatus and imaging method
JP2009169601A (ja) 2008-01-15 2009-07-30 Ricoh Co Ltd 画像処理システム及びこの画像処理システムを有するカメラ

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001112010A (ja) * 1999-10-05 2001-04-20 Sony Corp カラー撮像装置
JP2003199117A (ja) * 2001-12-25 2003-07-11 Sony Corp 撮像装置及び固体撮像素子の信号処理方法
JP2006217277A (ja) * 2005-02-03 2006-08-17 Nikon Corp 撮像装置
JP2007094092A (ja) * 2005-09-29 2007-04-12 Canon Inc 画像形成装置及びその制御方法
JP2007194971A (ja) * 2006-01-20 2007-08-02 Hitachi Kokusai Electric Inc 画像処理装置および画像処理方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014187634A (ja) * 2013-03-25 2014-10-02 Canon Inc 画像処理装置及びその制御方法
KR20140133394A (ko) * 2013-05-10 2014-11-19 삼성테크윈 주식회사 화상 처리 장치 및 화상 처리 방법
JP2014220758A (ja) * 2013-05-10 2014-11-20 三星テクウィン株式会社Samsung Techwin Co., Ltd 画像処理装置および画像処理方法
KR102003777B1 (ko) * 2013-05-10 2019-07-25 한화테크윈 주식회사 화상 처리 장치 및 화상 처리 방법
JP2015156616A (ja) * 2014-02-21 2015-08-27 キヤノン株式会社 画像処理装置、画像処理方法、制御プログラム、および記録媒体
US11488289B2 (en) 2016-03-30 2022-11-01 Interdigital Vc Holdings, Inc. Method for detection of saturated pixels in an image

Also Published As

Publication number Publication date
US20100171842A1 (en) 2010-07-08
JP5223686B2 (ja) 2013-06-26
US8144216B2 (en) 2012-03-27

Similar Documents

Publication Publication Date Title
JP5347707B2 (ja) 撮像装置および撮像方法
JP5123137B2 (ja) 撮像装置および撮像方法
EP2186345B1 (en) Imaging apparatus and imaging method
JP4567593B2 (ja) 撮像装置および撮影方法
US7884866B2 (en) Imaging apparatus and imaging method
JP5660341B2 (ja) 撮像装置、撮像方法
JP5223686B2 (ja) 撮像装置および撮像方法
US8319864B2 (en) Imaging apparatus and imaging method
JP2017022610A (ja) 画像処理装置、画像処理方法
JP5343588B2 (ja) 撮像装置
JP5458937B2 (ja) 撮像装置及び撮像方法及びこの撮像方法を実行するためのプログラムが記録されたコンピュータが読み取り可能な記録媒体
JP5256947B2 (ja) 撮像装置、撮像方法およびその方法を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2008053931A (ja) 撮像装置
JP5277863B2 (ja) 撮像装置および撮像方法
JP5091781B2 (ja) 撮像装置および撮像方法
JP5948997B2 (ja) 撮像装置及び撮像方法
JP2010068331A (ja) 撮像装置および撮像方法
JP5310331B2 (ja) 撮像装置および撮像方法
JP5803233B2 (ja) 撮像装置および撮像方法
JP5169540B2 (ja) 撮像装置および撮像方法
JP5091734B2 (ja) 撮像装置および撮像方法
JP5145876B2 (ja) 撮像装置および撮像方法
JP2010068064A (ja) 撮像装置及び撮像方法
JP2005311843A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130225

R151 Written notification of patent or utility model registration

Ref document number: 5223686

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160322

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees