JP2011023985A - 画像処理装置およびその制御方法 - Google Patents

画像処理装置およびその制御方法 Download PDF

Info

Publication number
JP2011023985A
JP2011023985A JP2009167264A JP2009167264A JP2011023985A JP 2011023985 A JP2011023985 A JP 2011023985A JP 2009167264 A JP2009167264 A JP 2009167264A JP 2009167264 A JP2009167264 A JP 2009167264A JP 2011023985 A JP2011023985 A JP 2011023985A
Authority
JP
Japan
Prior art keywords
image data
bit
luminance
image
characteristic parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009167264A
Other languages
English (en)
Other versions
JP5383360B2 (ja
JP2011023985A5 (ja
Inventor
Naoyuki Hasegawa
直之 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009167264A priority Critical patent/JP5383360B2/ja
Priority to US12/827,289 priority patent/US8554010B2/en
Publication of JP2011023985A publication Critical patent/JP2011023985A/ja
Publication of JP2011023985A5 publication Critical patent/JP2011023985A5/ja
Application granted granted Critical
Publication of JP5383360B2 publication Critical patent/JP5383360B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】より自然な階調を有する写真再現を得るための技術を提供する。
【解決手段】互いに露出量が異なる複数の画像データを合成して高階調画像データを生成する画像処理装置において、合成の対象となる複数のMビット画像データを入力する入力手段と、入力された複数のMビット画像データの中から、露出の基準とする基準画像データを決定する決定手段と、複数のMビット画像データを合成し1つのNビット合成画像データ(N>M)を生成する合成手段と、基準画像データにおける所定の基準輝度が変化しないように、Nビット合成画像データに対する階調圧縮の特性パラメータを設定する特性パラメータ設定手段と、設定された特性パラメータに基づいて、Nビット合成画像データに含まれる所定の周波数未満の画像成分の輝度階調を圧縮することにより、Mビット合成画像データを生成する生成手段と、を含む。
【選択図】図12

Description

本発明は、画像処理技術、特にデジタル画像データの階調補正技術に関するものである。
現在、日本国内におけるデジタルカメラの世帯普及率は50%を超えており、「デジタルカメラで撮影する」という行為はごく一般的なものとなっている。ユーザが屋外などにおいてデジタルカメラにより撮影するとき、撮影可能な輝度レンジより撮影シーンの輝度レンジが広い場合がある。このとき、撮影可能な輝度レンジ外の被写体については、その階調情報を記録することができないため、白飛び・黒潰れが発生する。例えば、晴天時に屋外で人物を撮影する場合、人物に露出を合わせると背景の空や雲が白飛びしたり、木陰が黒潰れしたりするケースがある。しかし、非特許文献2に示されるRetinexモデルに代表されるように、人間の視覚は物体の反射率をより敏感に検知する特性があり、明るい場所および暗い場所の双方において階調を知覚することができる。このため、あるシーンに対する見た目の印象と同じシーンの撮影画像の印象とが異なっている場合があり、デジタルカメラユーザの不満となっている。
このような問題を解決する技術の1つにハイダイナミックレンジ(HDR:High Dynamic Range)技術がある。HDR技術は、大きく分けて、HDRキャプチャー技術とダイナミックレンジ圧縮技術とから構成される。HDRキャプチャー技術は、撮影可能なダイナミックレンジを拡大し、白飛び・黒潰れが発生していた輝度レンジの階調情報を記録するための技術である。例えば、複数の露出で撮影した画像を合成するなどの方法がある。以下、このHDRキャプチャーにより取得される画像をHDR画像と呼ぶ。一方、ダイナミックレンジ圧縮技術は、ダイナミックレンジの広いHDR画像をダイナミックレンジの狭い表示/出力機器で好ましく再現するための画像処理技術である。これらのHDR技術により、撮影画像における白飛び・黒潰れを軽減することができる。ダイナミックレンジ圧縮方法にはさまざまな種類が提案されており、例えば、非特許文献1では、実シーンを見ていたように再現するダイナミックレンジ圧縮方法について述べている。
Kuang, J., Johnson, G.M., Fairchild M.D., "iCAM06: A refined image appearance model for HDR image rendering", Journal of Visual Communication, 2007 Edwin H. Land, John J. McCann, "Lightness and Retinex Theory", Journal of the Optical Society of America, Vol.61, Num1, 1971
しかしながら、上述のHDR技術による写真再現とこれまでのカメラの写真再現とを比較した場合、現行のカメラユーザには受け入れられにくいものとなっている。具体的には、ハイライト部は高階調ではあるが、露出感が異なる、眠く感じる、色が転んで見える、夜景画像で彩度が低下するなど、ユーザにとって違和感のあるものとなる場合がある。
本発明は、上述の問題点に鑑みなされたものであり、現行カメラの写真再現に対し違和感の無いより自然な階調を有する写真再現を得るための技術を提供することを目的とする。
上述の少なくとも1つの問題点を解決するために、本発明の画像処理装置は以下の構成を備える。すなわち、互いに露出量が異なる複数の画像データを合成して高階調画像データを生成する画像処理装置において、合成の対象となる複数のMビット画像データを入力する入力手段と、前記入力された複数のMビット画像データの中から、露出の基準とする基準画像データを決定する決定手段と、前記複数のMビット画像データを合成し1つのNビット合成画像データ(N>M)を生成する合成手段と、前記基準画像データにおける所定の基準輝度が変化しないように、前記Nビット合成画像データに対する階調圧縮の特性パラメータを設定する特性パラメータ設定手段と、前記設定された特性パラメータに基づいて、前記Nビット合成画像データに含まれる所定の周波数未満の画像成分の輝度階調を圧縮することにより、Mビット合成画像データを生成する生成手段と、を含む。
本発明によれば、より自然な階調を有する写真再現を得るための技術を提供することができる。
第1実施形態に係る画像処理装置の内部構成を示す図である。 第1実施形態に係る画像処理装置の動作を示す概略フローチャートである。 多段露出画像群を選択するための画像群表示UIの一例を示す図である。 ダイナミックレンジ圧縮処理を行うか否かを選択するUIの一例を示す図である。 ダイナミックレンジ圧縮処理に関する設定を行う設定UIの一例を示す図である。 画像ファイルの一例を示す図である。 撮影データの一例を示す図である。 ダイナミックレンジ圧縮パラメータの決定処理の詳細フローチャートである。 ダイナミックレンジ合成処理の詳細フローチャートである。 ダイナミックレンジ合成を説明する図である。 ダイナミックレンジ圧縮処理の詳細フローチャートである。 ダイナミックレンジ圧縮を説明する図である。 輝度照明成分の圧縮処理の詳細フローチャートである。 補正方法に応じた輝度照明成分の圧縮特性の一例を示す図である。 補正強さに応じた黒潰れ補正する輝度照明成分の圧縮特性を示す図である。 補正強さに応じた白飛び補正する輝度照明成分の圧縮特性を示す図である。 補正方法決定テーブルの一例を示す図である。 補正強さ決定テーブルの一例を示す図である。 SCDテーブルの一例を示す図である。 HCDテーブルの一例を示す図である。
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
(第1実施形態)
本発明に係る画像処理装置の第1実施形態として、画像処理ソフトウェアを実行するパーソナルコンピュータ(PC)を例に挙げて以下に説明する。
<装置構成>
図1は、第1実施形態に係る画像処理装置100の内部構成を示す図である。入力部101は、ユーザからの指示や、データを入力する装置で、キーボードやポインティング装置を含む。なお、ポインティング装置としては、マウス、トラックボール、トラックパッド、タブレット等が挙げられる。あるいは、本例を例えば公知のデジタルカメラ装置やプリンタなどの機器に適用する場合には、ボタンやモードダイヤル等で構成されるのであっても良い。また、キーボードをソフトウェアで構成(ソフトウェアキーボード)し、ボタンやモードダイヤル、あるいは先に挙げたポインティングデバイスを操作して文字を入力するように構成するのであっても良い。
データ保存部102は、画像データを保持する部分で、通常はハードディスク、フロッピー(登録商標)ディスク、光ディスク(CD−ROM、CD−RやDVD)、メモリーカード(CFカード、スマートメディア、SDカード、メモリスティック、xDピクチャーカード)、USBメモリ等で構成される。データ保存部102には画像データの他にも、プログラムやその他のデータを保存することも可能である。あるいは、後述するRAM106の一部をデータ保存部102として用いるのであってもよい。またあるいは、後述する通信部107により接続した先の機器のデータ保存部を通信部107を介して利用する、というように仮想的に構成するのであっても良い。
表示部103は、画像処理前、画像処理後の画像を表示、あるいはグラフィカル・ユーザインタフェース(GUI)等の画像を表示する装置である。一般的にはCRTや液晶ディスプレイなどが用いられる。あるいは、ケーブル等で接続された装置外部のディスプレイ装置であっても構わない。また、あるいは公知のタッチスクリーンであっても良い。その場合、タッチスクリーンによる入力については入力部101の入力として扱うこともできる。
104はCPUであり、各種制御プログラムを実行することにより上述の各部を制御する。ROM105とRAM106は、その処理に必要なプログラム、データ、作業領域などをCPU104に提供する。また、後述する処理に必要な制御プログラムがデータ保存部102に格納されている場合や、ROM105に格納されている場合には、一旦RAM106に読み込まれてから実行される。またあるいは通信部107を経由して装置がプログラムを受信する場合には、一旦データ保存部102に記録した後にRAM106に読み込まれるか、直接通信部107からRAM106に直接読み込まれてから実行される。
通信部107は、機器間の通信を行うための機能部である。通信の方式としては、公知の有線接続(イーサネット(登録商標)、USB、IEEE1284、IEEE1394、電話回線など)が使用可能である。また、赤外線(IrDAなど)、無線LAN(IEEE802.11シリーズ等)、Bluetooth(登録商標)、UWB(Ultra Wide Band)等の無線通信方式であっても良い。
なお、図1では入力部101、データ保存部102、表示部103が全て1つの装置内に含まれるようぶ図示している。しかし、れらの各部を任意の通信路で接続したシステムとして構成してもよい。
<装置の動作>
図2に、第1実施形態に係る画像処理装置の動作を示す概略フローチャートである。なお、以下の動作は、CPU104がROM104に格納された制御プログラムを実行することにより実現される。
ステップS1001では、表示部103に、多段露出画像群選択UI300を表示する。ここで、多段露出画像群とは、同じシーンに対して互いに露出の異なる複数の画像データのことを示している。図3は、多段露出画像群選択UIの一例を示す図である。ユーザは、入力部101を介して多段露出画像群(例えば、図3の左列にある3つの画像301a〜301c)を選択する。なお、ここでは、各画像データが24ビット画像データ(RGB各8ビット)(Mビット画像データ)であるとして説明する。
ステップS1002では、表示部103に、ダイナミックレンジ圧縮パラメータ設定UIを表示する。これは、例えば、多段露出画像群を選択した状態において、入力部101を介して所定の操作をすることにより実行される。例えば、マウスの右クリックをすることにより、図4に示す右クリックメニューUI400を表示する。そして、ユーザにより右クリックメニューUI400から「ダイナミックレンジ圧縮処理」が選択された場合に、図5に示すダイナミックレンジ圧縮パラメータ設定UI500を表示する。この際、CPU104は、選択された多段露出画像群の画像データと撮影データとをRAM106に読み込み、図5に示すようなプレビュー表示を行なうようにすると好適である。ここで、”画像データ”とは、図6の600に示すように、全画素の8ビットRGB値が記録されたデータのことである。また、”撮影データ”とは、図7の700に示すように、撮影時の情報として、画像幅、画像高さ、撮影日時、露出時間、絞り値、ISO感度、基準輝度値が記録されたデータ(メタデータ)のことを指す。なお、撮像データはExifデータを用いることが出来る。
ステップS1003では、ダイナミックレンジ圧縮パラメータ設定UI500を介してユーザから受け付けた指示に従って、ダイナミックレンジ圧縮パラメータ(階調圧縮の特性パラメータ)を決定する。ここで、ダイナミックレンジ圧縮パラメータとは、適正露出画像の基準輝度と最大輝度、補正方法、及び、補正強さのことを指す。ステップS1003の詳細については後述する。こでは、請求項における特性パラメータ設定手段に相当する。
ステップS1004では、ステップS1001で選択されRAM106に記録された多段露出画像群を合成し、HDR画像(Nビット合成画像データ)を生成する。ステップS1004の詳細については後述する。
ステップS1005では、ステップS1003により決定されたダイナミックレンジ圧縮パラメータに従って、ステップS1004で作成したHDR画像のダイナミックレンジ圧縮処理(輝度階調圧縮処理)を行い、ダイナミックレンジ圧縮されたHDR画像データ(Mビット合成画像データ)をを生成する。ステップS1005の詳細については後述する。
ステップS1006では、ダイナミックレンジ圧縮処理後のHDR画像データ(高階調画像データ)をデータ保存部102に保存し、処理を終了する。
<ダイナミックレンジ圧縮パラメータの決定処理(ステップS1003)の詳細>
図8に、ステップS1003の処理のフローチャートの一例を示す。上述したように、ステップS1002において、「ダイナミックレンジ圧縮処理」の対象となっている多段露出画像群(互いに露出量が異なる複数の画像データ)が選択されている。
ステップS2001では、ダイナミックレンジ圧縮パラメータ設定UIにおいて、適正露出画像選択が「おまかせ」であるか否かを判定する。「おまかせ」である場合、ステップS2002に進み、「おまかせ」でない場合、ステップS2006に進む。なお、「おまかせ」とは、ユーザによる各種パラメータの直接指定を受け付けること無く、画像処理装置1が自動的に処理を選択/決定するモードを意味する。
ステップS2002では、選択されている複数の画像データおのおのについて、輝度最頻値Yhistを検出する。そして、ステップS2003では、数式(1)に従って、輝度最頻値YhistをL*値(L*hist)に変換する。
ステップS2004では、L*histが50に最も近い露出画像を適正露出画像(基準画像データ)として選択する。そして、ステップS2005では、ステップS2004、又は、ユーザによって選択された適正露出画像の基準輝度値YRef、及び、最大輝度値YMaxをRAM106に記録する。なお、基準輝度値YRefは、UIを介してユーザから受け付けるよう構成してもよいし、自動で設定するようにしても良い。
ステップS2006では、ダイナミックレンジ圧縮パラメータ設定UIにおいて、補正方法選択が「おまかせ」であるか否かを判定し、「おまかせ」である場合ステップS2007に進み、「おまかせ」でない場合ステップS2010に進む。
ステップS2007では、選択された適正露出画像のシャドー画素率を算出する(シャドー画素率判定手段)。シャドー画素率とは、輝度値が所定値(第1輝度値)(例えば”20”)以下である画素数の全画素数に占める比率のことを指す。また、ステップS2008では、選択された適正露出画像のハイライト画素率を算出する(ハイライト画素率判定手段)。ハイライト画素率とは輝度値が所定値(第2輝度値)(例えば”235”)以上である画素の、全画素数に占める比率のことを指す。なお第1輝度値は基準輝度未満の値であり、第2輝度値は基準輝度を超える値である。
ステップS2009では、シャドー画素率、及び、ハイライト画素率に応じて、補正方法決定テーブルに従って、補正方法を選択する。図17は、補正方法決定テーブルの一例を示す図である。そして、ステップS2010では、ステップS2009、又は、ユーザによって選択された補正方法をRAM106に記録する。
ステップS2011では、ダイナミックレンジ圧縮パラメータ設定UIにおいて、補正強さ選択が「おまかせ」であるか否かを判定し、「おまかせ」である場合ステップS2012に進み、「おまかせ」でない場合ステップS2017に進む。
ステップS2012では、ステップS2010でRAM106に記録された補正方法を読込み、「黒潰れを補正」である場合ステップS2013に進み、「白飛びを補正」である場合ステップS2014に進み、「黒潰れと白飛びを補正」である場合ステップS2015に進む。そして、ステップS2013〜S2016では、補正強さ決定テーブルに従って、黒潰れ補正強さおよび白飛び補正強さの少なくとも一方を決定する。なお、「白飛びを補正」とは画像における白飛びを軽減するよう圧縮する補正を示し、「黒潰れを補正」とは画像における黒潰れを軽減するよう圧縮する補正を示している。図18は、補正強さ決定テーブルの一例を示す図である。
ステップS2017では、ステップS2013〜S2016で決定された補正強さ、又は、ユーザによって選択された補正強さをRAM106に記録し、処理を終了する。
<ダイナミックレンジ合成処理(ステップS1004)の詳細>
図9に、ステップS1004の処理のフローチャートの一例を示す。本ステップでは、図10に示すように、露出の多い画像に合成ゲインを乗じて、露出の少ない画像に順次合成していく処理を示す。なお。以下では、多段露出画像群(複数の画像データ)は、絞り値が同一であり、露出時間を変化させることにより得られた画像であるものであるとして説明する。
ステップS3001では、ステップS1002でRAM106に記録された多段露出画像に対応する撮影データから露出時間ETを読み出す。そして、ステップS3002では、露出時間の最大値ETmaxを検出する。
ステップS3003では、露出時間が最大の画像について、画素番号”1”に対応するRGB値を読み込む。そして、ステップS3004では、RGB値が白飛び・黒潰れの存在しない画素値であるかを判定し、白飛びまたは黒潰れが存在する画素値である場合ステップS3005に進み、白飛びおよび黒潰れの何れもでもない場合ステップS3009に進む。ここで白飛びおよび黒潰れび何れでもない画素値とは、0<RGB<255を満たす画素値を指す。すなわち、RGB画素値が255である場合、白飛びしていると判定し、RGB画素値が0である場合、黒潰れが発生していると判定する。
ステップS3005では、露出時間が一段階小さい(露出時間が1/2)画像について、同じ画素番号のRGB値を読み込む。そして、ステップS3006では、RGB値が白飛び・黒潰れのない画素値であるかを判定し、白飛びまたは黒潰れしている画素値である場合ステップS3005に戻り、白飛びおよび黒潰れび何れでもない場合、ステップS3007に進む。
ステップS3007では、数式(2)に従って、選択画像の露出時間ETと露出時間最大値ETmaxの露出時間比ETRを算出する。
ステップS3008では、選択画像のRGB値、及び、露出時間比ETRを用いて、数式(3)により、ダイナミックレンジ合成後のRGB値RGBHDRを算出する。
ステップS3009では、ダイナミックレンジ合成後のRGB値RGBHDRをRAM106に記録する。
ステップS3010では、全画素についてダイナミックレンジ合成後のRGB値をRAM106に記録したか判定し、全画素について記録していない場合ステップS3011に進む。そして、ステップS3011では、露出時間が最大の画像について、次の画素番号のRGB値を読み出し、ステップS3004に戻る。
以上のステップを、各画素に対して実行し、ステップS3010において、全画素について記録したと判定した場合、処理を終了する。
<ダイナミックレンジ圧縮処理(ステップS1005)の詳細>
図11に、ステップS1005の処理のフローチャートの一例を示す。ステップS1005に係る詳細機能ブロック図を図12に示す。ここでは、具体的には、非特許文献2に示されるRetinexモデルを利用してダイナミックレンジ圧縮を行う。より具体的には、輝度成分を、輝度照明成分と輝度反射率成分とに分離し、輝度照明成分のみをダイナミックレンジ圧縮する。つまり、人間の視覚は、輝度照明成分に鈍感であることを利用したものである。なお、輝度照明成分は、HDR画像に対し、所定のカットオフ周波数を有するローパスフィルタ処理を行うことで、所定の周波数未満の画像成分として取得される。
ステップS4001では、数式(4)に従って、HDR画像のRGB値(RGBHDR)から、輝度成分YHDRを算出する。
ステップS4002では、数式(5)に従って、ガウシアンフィルタを算出する。ここでは、ガウシアンフィルタの分散Sを、画像幅Wの1/5の画素数とし、フィルタ処理を行う範囲(−S〜S)が、ガウス関数の積分値の約95%が含まれるようにSを設定している。
ステップS4003では、数式(6)に従って、輝度成分YHDRとガウシアンフィルタの離散畳み込み演算を行い、輝度照明成分YIllum_HDRを算出する。
ステップS4004では、数式(7)に従って、輝度反射率成分YRefrectanceを算出する。
ステップS4005では、輝度照明成分を圧縮し、圧縮後の輝度照明成分YIllum_LDRを算出する。ステップS4005の詳細については後述する。
ステップS4006では、数式(8)に従って、圧縮後の輝度照明成分YIllum_LDRと輝度反射率成分YRefrectanceを合成し、YLDRを算出する。
ステップS4007では、数式(9)に従って、ダイナミックレンジ圧縮処理前後の輝度成分YHDR、YLDRを用いて、HDR画像のRGB値(RGBHDR)を調節し、RGBLDRを算出する。つまり、輝度成分の変化量に応じて、色成分を調整する。
ステップS4008では、数式(10)に従って、ダイナミックレンジ圧縮処理後のRGB値(RGBLDR)にカメラガンマ処理を行い、RGBLDR_gを算出し、RAM106に記録し、処理を終了する。カメラガンマ処理とは、画像出力デバイスのダイナミックレンジ特性に基づくガンマ特性の補正処理(ガンマ特性補正手段)である。
<輝度照明成分圧縮処理(ステップS4005)の詳細>
図13に、ステップS4005の処理の詳細フローチャートを示す。また、「黒潰れを補正」、「白飛びを補正」、「黒潰れと白飛びを補正」それぞれの場合における輝度照明成分の例示的な圧縮特性曲線を図14に示す。
ステップS5001では、ダイナミックレンジ圧縮パラメータ(選択画像の基準輝度、補正方法、補正強さ)を読み込む。
ステップS5002では、HDR画像における輝度照明成分の最大値YIllum_MAXを検出する。
ステップS5003では、輝度照明成分YIllum_HDRが基準輝度値YRefより小さいか否かを判定する。小さい場合ステップS5004に進み、大きい場合ステップS5005に進む。
ステップS5004では、数式(11)に従って、輝度照明成分YIllum_HDRを圧縮し、圧縮後の輝度照明成分YIllum_LDRを算出する。なお、式(11)中のSCDとは、黒潰れ補正強さ(Shadow Correction Degree)であり、例えば、図19に示されるSCDテーブルのように予め設定される。設定された黒潰れ補正強さに応じて、図15に示すような圧縮特性で補正を行う。
ステップS5005では、数式(12)に従って、輝度照明成分YIllum_HDRを圧縮し、圧縮後の輝度照明成分YIllum_LDRを算出する。式(12)中のHCDとは、白飛び補正強さ(Highlight Correction Degree)であり、例えば、図20に示されるHCDテーブルのように予め設定される。設定された白飛び補正強さに応じて、図16に示すような圧縮特性で補正を行う。
以上説明したとおり第1実施形態に係る画像処理装置によれば、多段露出画像群に含まれる所定の画像データを基準として、HDR画像に対しダイナミックレンジ圧縮処理を行なう。これにより、違和感のある写真再現を回避しつつHDR技術を活かした階調補正を行うことが可能となる。
(変形例)
<画像ファイル>
第1実施形態においては、多段露出画像群に含まれる各画像データは24ビット画像データ(RGB各8ビット)であるとして説明した。また、撮影データとして、画像幅、画像高さ、撮影日時、光学センサ幅、レンズ焦点距離、拡大率、露光時間、絞り値、ISO感度が記録されているものとして説明した。しかし、多段露出画像群に含まれる画像データとして、所謂Rawデータを利用するよう構成してもよい。
<合成方法>
第1実施形態においては、露出の多い画像に合成ゲインを乗じて、露出の少ない画像に順次合成していくとした。しかし、合成ゲインを用いて露出の異なる画像同士を合成する方法であれば、これに限るものではない。例えば、露出の少ない画像に合成ゲインを乗じて、露出の多い画像に順次合成しても良い。
<補正方法>
第1実施形態においては、画像の補正方法として、基準輝度をダイナミックレンジ圧縮処理前後で維持するとした。しかし、これに限定されず、例えば、画像に対し顔検出処理を実行し”顔”と判定された部分の輝度値Yfaceを基準輝度値YRefとすると良い。なお、基準輝度は”顔”に限定されるものでもなく、画像に含まれる任意の主要な被写体の輝度が利用され得る。なお画像から主要被写体を検出する方法は、例えば特開2005−063406号公報に記載されている。
<ダイナミックレンジ圧縮方法>
第1実施形態においては、ダイナミックレンジ圧縮方法は、ガウシアンフィルタにより抽出された画像低周波成分を圧縮するものとした。しかし、Retinexモデルに基づき、画像低周波成分を圧縮するものであればこれに限定されるものではない。例えば、数式(13)に示すように、画像データに単純な平均フィルタ処理を実施する方法でも構わない。
(他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (8)

  1. 互いに露出量が異なる複数の画像データを合成して高階調画像データを生成する画像処理装置であって、
    合成の対象となる複数のMビット画像データを入力する入力手段と、
    前記入力された複数のMビット画像データの中から、露出の基準とする基準画像データを決定する決定手段と、
    前記複数のMビット画像データを合成し1つのNビット合成画像データ(N>M)を生成する合成手段と、
    前記基準画像データにおける所定の基準輝度が変化しないように、前記Nビット合成画像データに対する階調圧縮の特性パラメータを設定する特性パラメータ設定手段と、
    前記設定された特性パラメータに基づいて、前記Nビット合成画像データに含まれる所定の周波数未満の画像成分の輝度階調を圧縮することにより、Mビット合成画像データを生成する生成手段と、
    を含むことを特徴とする画像処理装置。
  2. さらに、
    前記基準画像データにおいて、全画素数に対する所定の第1輝度値より小さい輝度値を有する画素数の比率であるシャドー画素率を判定するシャドー画素率判定手段と、
    前記基準画像データにおいて、全画素数に対する所定の第2輝度値より大きい輝度値を有する画素数の比率であるハイライト画素率を判定するハイライト画素率判定手段と、
    の少なくとも一方を含み、
    前記特性パラメータ設定手段は、前記シャドー画素率に応じて前記所定の基準輝度未満の画素値を有する画素について黒潰れが軽減されるような特性パラメータを設定し、前記ハイライト画素率に応じて前記所定の基準輝度を超える画素値を有する画素について白飛びが軽減されるような特性パラメータを設定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記所定の基準輝度は、前記基準画像データにおける主要被写体の輝度であることを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記所定の周波数は、Retinexモデルにおける輝度照明成分を抽出するために使用されるローパスフィルタのカットオフ周波数であることを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
  5. 前記生成手段は、さらに、前記圧縮による輝度階調の変化量に応じて、前記Mビット合成画像データの色成分の調整することを特徴とする請求項1乃至4の何れか一項に記載の画像処理装置。
  6. さらに、前記Mビット合成画像データを出力する出力デバイスのダイナミックレンジ特性に基づいて、前記Mビット合成画像データのガンマ特性を補正するガンマ特性補正手段を含むことを特徴とする請求項1乃至5の何れか一項に記載の画像処理装置。
  7. 互いに露出量が異なる複数の画像データを合成して高階調画像データを生成する画像処理装置の制御方法であって、
    入力手段が、合成の対象となる複数のMビット画像データを入力する入力工程と、
    決定手段が、前記入力された複数のMビット画像データの中から、露出の基準とする基準画像データを決定する決定工程と、
    合成手段が、前記複数のMビット画像データを合成し1つのNビット合成画像データ(N>M)を生成する合成工程と、
    特性パラメータ設定手段が、前記基準画像データにおける所定の基準輝度が変化しないように、前記Nビット合成画像データに対する階調圧縮の特性パラメータを設定する特性パラメータ設定工程と、
    生成手段が、前記設定された特性パラメータに基づいて、前記Nビット合成画像データに含まれる所定の周波数未満の画像成分の輝度階調を圧縮することにより、Mビット合成画像データを生成する生成工程と、
    を含むことを特徴とする画像処理装置の制御方法。
  8. コンピュータを請求項1乃至6の何れか一項に記載の画像処理装置として動作させるためのプログラム。
JP2009167264A 2009-07-15 2009-07-15 画像処理装置およびその制御方法 Active JP5383360B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009167264A JP5383360B2 (ja) 2009-07-15 2009-07-15 画像処理装置およびその制御方法
US12/827,289 US8554010B2 (en) 2009-07-15 2010-06-30 Image processing apparatus combining plural sets of image data and method for controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009167264A JP5383360B2 (ja) 2009-07-15 2009-07-15 画像処理装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2011023985A true JP2011023985A (ja) 2011-02-03
JP2011023985A5 JP2011023985A5 (ja) 2012-08-23
JP5383360B2 JP5383360B2 (ja) 2014-01-08

Family

ID=43465355

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009167264A Active JP5383360B2 (ja) 2009-07-15 2009-07-15 画像処理装置およびその制御方法

Country Status (2)

Country Link
US (1) US8554010B2 (ja)
JP (1) JP5383360B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9560265B2 (en) 2013-07-02 2017-01-31 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image processing program, and imaging apparatus
JP2019510963A (ja) * 2016-01-28 2019-04-18 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. マルチビューの特徴付けのための方法及び装置
JP2019110538A (ja) * 2014-05-16 2019-07-04 パナソニックIpマネジメント株式会社 輝度変換方法、輝度変換装置および映像表示装置

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5762756B2 (ja) * 2011-01-20 2015-08-12 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置
JP2012247874A (ja) * 2011-05-25 2012-12-13 Sony Corp 画像処理装置および方法
JP5877693B2 (ja) * 2011-11-18 2016-03-08 株式会社キーエンス 画像処理センサ、画像処理方法及びコンピュータプログラム
JP2013258577A (ja) * 2012-06-13 2013-12-26 Canon Inc 撮像装置、撮像方法及びプログラム、画像符号化装置、画像符号化方法及びプログラム
US9288374B1 (en) * 2012-09-10 2016-03-15 Amazon Technologies, Inc. Systems and methods for updating camera characteristics using a remote computing device
US9330437B2 (en) * 2012-09-13 2016-05-03 Blackberry Limited Method for automatically generating presentation slides containing picture elements
CN102970549B (zh) * 2012-09-20 2015-03-18 华为技术有限公司 图像处理方法及装置
JP2015127680A (ja) 2013-12-27 2015-07-09 スリーエム イノベイティブ プロパティズ カンパニー 計測装置、システムおよびプログラム
US20180167597A1 (en) * 2015-05-29 2018-06-14 Thomson Licensing Methods, apparatus, and systems for hdr tone mapping operator
US9787909B1 (en) * 2016-03-31 2017-10-10 Stmicroelectronics (Research & Development) Limited Controlling signal-to-noise ratio in high dynamic range automatic exposure control imaging
JP6720881B2 (ja) * 2017-01-19 2020-07-08 カシオ計算機株式会社 画像処理装置及び画像処理方法
CN109602448B (zh) * 2018-12-07 2022-04-19 三门县人民医院 探头自移位型立式b超机
JP7307541B2 (ja) * 2018-12-19 2023-07-12 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
CN116962609A (zh) * 2019-02-28 2023-10-27 佳能株式会社 摄像设备及其控制方法和存储介质
WO2021101037A1 (en) * 2019-11-19 2021-05-27 Samsung Electronics Co., Ltd. System and method for dynamic selection of reference image frame

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000149014A (ja) * 1998-11-13 2000-05-30 Sony Corp 画像処理装置及び画像処理方法
JP2007049540A (ja) * 2005-08-11 2007-02-22 Sony Corp 画像処理装置および方法、記録媒体、並びに、プログラム
JP2008104009A (ja) * 2006-10-19 2008-05-01 Sony Corp 撮像装置および撮像方法
JP2008104010A (ja) * 2006-10-19 2008-05-01 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2009059058A (ja) * 2007-08-30 2009-03-19 Konica Minolta Opto Inc 画像処理装置および画像処理方法ならびに撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7142723B2 (en) * 2003-07-18 2006-11-28 Microsoft Corporation System and process for generating high dynamic range images from multiple exposures of a moving scene
JP4307301B2 (ja) 2003-07-31 2009-08-05 キヤノン株式会社 画像処理装置およびその方法
JP4289225B2 (ja) * 2004-06-18 2009-07-01 株式会社ニコン 画像処理装置および画像処理方法
US8050512B2 (en) * 2004-11-16 2011-11-01 Sharp Laboratories Of America, Inc. High dynamic range images from low dynamic range images
US8050511B2 (en) * 2004-11-16 2011-11-01 Sharp Laboratories Of America, Inc. High dynamic range images from low dynamic range images
US7791656B2 (en) * 2005-08-16 2010-09-07 Konica Minolta Holdings, Inc. Image sensing apparatus and image processing method
CN101690243B (zh) * 2008-05-14 2012-08-22 松下电器产业株式会社 摄像装置以及摄像方法
WO2010088465A1 (en) * 2009-02-02 2010-08-05 Gentex Corporation Improved digital image processing and systems incorporating the same
US8237813B2 (en) * 2009-04-23 2012-08-07 Csr Technology Inc. Multiple exposure high dynamic range image capture
TWI624182B (zh) * 2011-04-15 2018-05-11 杜比實驗室特許公司 高動態範圍影像的編碼、解碼及表示

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000149014A (ja) * 1998-11-13 2000-05-30 Sony Corp 画像処理装置及び画像処理方法
JP2007049540A (ja) * 2005-08-11 2007-02-22 Sony Corp 画像処理装置および方法、記録媒体、並びに、プログラム
JP2008104009A (ja) * 2006-10-19 2008-05-01 Sony Corp 撮像装置および撮像方法
JP2008104010A (ja) * 2006-10-19 2008-05-01 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2009059058A (ja) * 2007-08-30 2009-03-19 Konica Minolta Opto Inc 画像処理装置および画像処理方法ならびに撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9560265B2 (en) 2013-07-02 2017-01-31 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image processing program, and imaging apparatus
JP2019110538A (ja) * 2014-05-16 2019-07-04 パナソニックIpマネジメント株式会社 輝度変換方法、輝度変換装置および映像表示装置
JP2019510963A (ja) * 2016-01-28 2019-04-18 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. マルチビューの特徴付けのための方法及び装置

Also Published As

Publication number Publication date
US20110013848A1 (en) 2011-01-20
JP5383360B2 (ja) 2014-01-08
US8554010B2 (en) 2013-10-08

Similar Documents

Publication Publication Date Title
JP5383360B2 (ja) 画像処理装置およびその制御方法
US10412296B2 (en) Camera using preview image to select exposure
US10171786B2 (en) Lens shading modulation
JP6259185B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
US9357139B2 (en) Image processing apparatus, display apparatus and image capturing apparatus with generation of composite image by adding multiplied edge components outputted from first multiplier and multiplied low frequency components outputted from second mylitplier
KR20080035981A (ko) 화상처리장치, 촬상장치, 화상처리방법 및 컴퓨터 프로그램
WO2012098768A1 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置
JP5984975B2 (ja) 撮像装置、撮像方法、およびプログラム
US20120008006A1 (en) Image processing apparatus, electronic camera, and medium storing image processing program
JP5202190B2 (ja) 画像処理方法及び画像処理装置
JP2011244053A (ja) 画像処理装置、撮像装置、及び画像処理プログラム
JP5904753B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP5483949B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6590681B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5397509B2 (ja) 画像処理装置、電子カメラおよび画像処理プログラム
JP6074948B2 (ja) デジタルカメラ
JP6072191B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP2023090628A (ja) 画像処理装置および画像処理方法、撮像装置
JP2012093904A (ja) 画像処理装置、画像処理方法、撮像装置、および画像処理プログラム
JP2016054355A (ja) 画像処理装置およびその制御方法ならびにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120705

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130902

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131001

R151 Written notification of patent or utility model registration

Ref document number: 5383360

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151